1
00:00:02,000 --> 00:00:07,000

2
00:00:02,654 --> 00:00:04,656
[stor orkesterfanfare
spiller]

3
00:00:08,000 --> 00:00:13,000

4
00:00:27,636 --> 00:00:29,681
♪ ♪

5
00:00:41,389 --> 00:00:43,217
[fugle kvidrer og kalder]

6
00:00:48,657 --> 00:00:50,833
-[burbling]
-[trilling]

7
00:00:55,055 --> 00:00:57,057
[VCR klikker og suser]

8
00:01:00,582 --> 00:01:02,018
[projektor klikker]

9
00:01:04,847 --> 00:01:09,286
Nu, nutidens computere
er fuldstændige idioter,

10
00:01:09,330 --> 00:01:12,115
men dette vil ikke være sandt
i en anden generation.

11
00:01:12,159 --> 00:01:14,857
De vil begynde at tænke,
og til sidst vil de

12
00:01:14,900 --> 00:01:17,599
helt overskue
deres skabere.

13
00:01:17,642 --> 00:01:20,254
Er det deprimerende?
Jeg kan ikke se hvorfor det skulle være det.

14
00:01:20,297 --> 00:01:24,823
Jeg formoder, at det er økologisk
eller biologisk evolution

15
00:01:24,867 --> 00:01:26,303
er ved at være slut.

16
00:01:27,739 --> 00:01:29,524
[Daniel klukker]

17
00:01:29,567 --> 00:01:30,655
CAROLINE: Du vil ikke have mig
at være fortæller.

18
00:01:30,699 --> 00:01:32,353
Jeg har ikke en god stemme.

19
00:01:32,396 --> 00:01:34,006
DANIEL: Du har en fantastisk stemme.
Bare gør det.

20
00:01:34,050 --> 00:01:36,183
Det er bare en--
vi prøver det bare.

21
00:01:36,226 --> 00:01:37,967
CAROLINE:
Får jeg betalt for det lort?

22
00:01:38,010 --> 00:01:40,230
DANIEL [ler]: Nå,
vi får se, hvor godt du klarer dig.

23
00:01:40,274 --> 00:01:41,579
[Caroline griner]

24
00:01:41,623 --> 00:01:43,451
-♪ ♪
-[hund gøer]

25
00:01:46,454 --> 00:01:47,890
CAROLINE:
Jeg skal ringe til mine forældre.

26
00:01:47,933 --> 00:01:49,065
[motor starter]

27
00:01:49,109 --> 00:01:51,023
Nogle gange skynder vi os ind i tingene

28
00:01:51,067 --> 00:01:52,851
uden at tænke dem igennem.

29
00:01:52,895 --> 00:01:54,723
DANIEL: Ja, kan du...
vil du skyde? Det er...

30
00:01:54,766 --> 00:01:57,204
CAROLINE: Som da Daniel
og Caroline blev gift

31
00:01:57,247 --> 00:02:00,163
151 dage efter de mødtes.

32
00:02:00,207 --> 00:02:01,817
Lad os spole tilbage.

33
00:02:03,079 --> 00:02:04,776
[bifald]

34
00:02:04,820 --> 00:02:07,170
Har du tænkt dig om
købe en hjemmecomputer?

35
00:02:07,214 --> 00:02:09,303
CAROLINE:
I 1993, da Daniel blev født,

36
00:02:09,346 --> 00:02:12,132
hans forældre havde ikke engang
en computer i huset.

37
00:02:12,175 --> 00:02:13,785
Men han husker
da de endelig fik en.

38
00:02:13,829 --> 00:02:15,700
Hvad en computer er for mig er

39
00:02:15,744 --> 00:02:18,355
svarende til en cykel
for vores sind.

40
00:02:18,399 --> 00:02:20,227
Hej.

41
00:02:20,270 --> 00:02:22,185
CAROLINE: Hans computer hjalp
slippe sin kreativitet løs.

42
00:02:22,229 --> 00:02:23,926
DANIEL:
Rulning. Gå.

43
00:02:23,969 --> 00:02:26,581
CAROLINE: Han brugte
hans fars iMac til at redigere videoer.

44
00:02:26,624 --> 00:02:28,322
Ja!

45
00:02:28,365 --> 00:02:29,932
CAROLINE: Og endda lave
små animationer.

46
00:02:29,975 --> 00:02:31,934
[dæk hviner, styrter]

47
00:02:31,977 --> 00:02:35,067
I 1998, da Caroline var
en lille pige...

48
00:02:35,111 --> 00:02:36,721
Hej, mor.

49
00:02:36,765 --> 00:02:38,158
...kun nørder vidste det
hvad internettet var.

50
00:02:38,201 --> 00:02:39,811
Og hvad med
denne internet ting?

51
00:02:39,855 --> 00:02:41,335
-Ved du, ved du noget
om det? -Sikker.

52
00:02:41,378 --> 00:02:42,771
-[publikum ler]
-CAROLINE: Men snart,

53
00:02:42,814 --> 00:02:44,903
- alle var på...
-...Internet.

54
00:02:44,947 --> 00:02:46,992
...og det var computere
at slå mennesker i skak.

55
00:02:47,036 --> 00:02:49,995
FORTALER: Deep Blue--
Kasparov har trukket sig!

56
00:02:50,039 --> 00:02:52,607
CAROLINE: Og til tiden
Caroline gik på college,

57
00:02:52,650 --> 00:02:55,087
computere var
i alles lomme.

58
00:02:55,131 --> 00:02:58,395
Nu kunne Daniel lave film
med sin telefon.

59
00:02:58,439 --> 00:03:01,485
Han voksede op til at blive kunstner
og en filmskaber...

60
00:03:01,529 --> 00:03:03,922
- Godnat.
-...og det gjorde Caroline også.

61
00:03:03,966 --> 00:03:05,707
Skære. Lad os gå ind i et nærbillede.
Det var perfekt.

62
00:03:05,750 --> 00:03:07,274
På det tidspunkt var computere det
forbinder mennesker

63
00:03:07,317 --> 00:03:08,971
og ændre verden på måder

64
00:03:09,014 --> 00:03:10,668
at vi aldrig
kunne have forestillet sig.

65
00:03:10,712 --> 00:03:12,322
Alle pengene indsamlet af
Ice Bucket Challenge...

66
00:03:12,366 --> 00:03:14,194
CAROLINE:
Noget af det var godt.

67
00:03:14,237 --> 00:03:15,499
[gispende]

68
00:03:15,543 --> 00:03:17,109
Nogle ikke så gode.

69
00:03:17,153 --> 00:03:19,286
Angst, selvskade, selvmord...

70
00:03:19,329 --> 00:03:21,201
Men det er klart nu
at vi ikke gjorde nok

71
00:03:21,244 --> 00:03:24,552
at forhindre disse værktøjer i
bliver også brugt til skade.

72
00:03:24,595 --> 00:03:26,380
CAROLINE: Og som verden
blev mere og mere fokuseret

73
00:03:26,423 --> 00:03:28,033
- på deres computere,
-[telefondringer]

74
00:03:28,077 --> 00:03:30,210
Daniel fokuserede på sit kunstværk.

75
00:03:32,037 --> 00:03:35,606
Hvor end han gik,
han havde altid en skitsebog,

76
00:03:35,650 --> 00:03:38,392
inklusive natten
han mødte Caroline.

77
00:03:38,435 --> 00:03:41,656
Han tegnede et frygteligt billede
af hende, og 20 minutter senere,

78
00:03:41,699 --> 00:03:44,136
udtalte han dristigt
de skulle giftes,

79
00:03:44,180 --> 00:03:47,575
hvilket de som bekendt gjorde,
151 dage senere.

80
00:03:47,618 --> 00:03:49,925
KVINDE: ...udtal nu dig
mand og kone.

81
00:03:49,968 --> 00:03:51,666
CAROLINE:
De flyttede ind i et sødt hus...

82
00:03:51,709 --> 00:03:52,841
-DANIEL: Elg, hej! Kom her!
-...og fik en hund

83
00:03:52,884 --> 00:03:54,669
lige så dum som Daniel.

84
00:03:54,712 --> 00:03:57,280
I mellemtiden var computere
skrive hele essays

85
00:03:57,324 --> 00:03:59,326
baseret på simple spørgsmål som,

86
00:03:59,369 --> 00:04:03,155
"Hvor svært ville det være at bygge
en hytte i min baghave?"

87
00:04:03,199 --> 00:04:07,072
Så Daniel byggede en hytte
i hans baghave.

88
00:04:07,116 --> 00:04:09,945
Men lige som han satte sig til start
arbejder på sin næste film,

89
00:04:09,988 --> 00:04:13,644
han lærte at computere
kunne nu skrive manuskripter.

90
00:04:14,863 --> 00:04:16,560
Jeg mener, de var dårlige,

91
00:04:16,604 --> 00:04:18,954
men de blev bedre
rigtig hurtigt.

92
00:04:18,997 --> 00:04:21,652
De kunne skabe nye billeder
og videoer fra bunden,

93
00:04:21,696 --> 00:04:24,786
og nogle af dem
kunne endda bestå advokateksamenen.

94
00:04:24,829 --> 00:04:28,833
Ikke bare gå forbi baren, men
være i top ti percentilen.

95
00:04:28,877 --> 00:04:30,531
CAROLINE:
Det var forvirrende.

96
00:04:30,574 --> 00:04:32,141
[suk]

97
00:04:32,184 --> 00:04:35,057
Daniel ville bare have
en cykel for hans sind,

98
00:04:35,100 --> 00:04:38,626
men computere var blevet
et selvkørende raketskib.

99
00:04:38,669 --> 00:04:40,236
[sukker]

100
00:04:40,280 --> 00:04:41,977
["Vi har kontrol"
af Neil Young spiller]

101
00:04:42,020 --> 00:04:44,762
Pionerer på området
af kunstig intelligens

102
00:04:44,806 --> 00:04:46,503
bønfalder Kongressen

103
00:04:46,547 --> 00:04:48,505
at vedtage sikkerhedsregler
før det er for sent.

104
00:04:48,549 --> 00:04:50,551
CAROLINE: Nu føltes det som
hele verden

105
00:04:50,594 --> 00:04:52,988
skyndte sig ind i noget
uden at tænke over det,

106
00:04:53,031 --> 00:04:56,339
og alle havde en mening.

107
00:04:56,383 --> 00:05:00,125
Ville det ødelægge verden
eller redde menneskeheden?

108
00:05:00,169 --> 00:05:02,389
Der var for meget information,

109
00:05:02,432 --> 00:05:04,652
hvilket gjorde ham ængstelig,
hvilket gjorde Caroline ængstelig...

110
00:05:04,695 --> 00:05:06,001
[oprørt skrig]

111
00:05:06,044 --> 00:05:07,785
Jeg har ikke børn endnu,
men jeg bekymrer mig

112
00:05:07,829 --> 00:05:10,179
hvordan verden ville se ud
hvis jeg beslutter mig for det. [griner]

113
00:05:10,222 --> 00:05:12,355
CAROLINE:
Han begyndte at spinde ud.

114
00:05:12,399 --> 00:05:14,052
[utydelig snak]

115
00:05:14,096 --> 00:05:16,925
Det var ved at blive
et bjerg af angst.

116
00:05:19,144 --> 00:05:21,364
-MAN: Det er forfærdeligt.
- Det er vildt Siri.

117
00:05:22,670 --> 00:05:25,586
CAROLINE:
Og så besluttede Daniel at gå ud

118
00:05:25,629 --> 00:05:27,979
og finde nogen
hvem kunne forklare ham dette,

119
00:05:28,023 --> 00:05:30,155
så han kunne stoppe
tænker over det

120
00:05:30,199 --> 00:05:33,463
og det kunne han og Caroline
komme videre med deres liv.

121
00:05:33,507 --> 00:05:36,814
♪ Vi har kontrol,
vi har kontrol ♪

122
00:05:36,858 --> 00:05:38,729
♪ Vi har kontrol ♪

123
00:05:38,773 --> 00:05:40,514
♪ Kemisk computer
tænkende batteri ♪

124
00:05:40,557 --> 00:05:42,559
♪ Vi har kontrol, vi er... ♪

125
00:05:42,603 --> 00:05:45,693
Denne bestræbelse ville vise sig
at være håbløst naiv

126
00:05:45,736 --> 00:05:49,044
og starter det mest forvirrende
år af sit liv.

127
00:05:49,087 --> 00:05:50,698
♪ Vi har kontrol... ♪

128
00:05:50,741 --> 00:05:52,787
Men som vi ved,
nogle gange skynder vi os ud i tingene

129
00:05:52,830 --> 00:05:54,615
uden at tænke dem igennem.

130
00:05:54,658 --> 00:05:56,356
♪ Kemisk computer
tænker batteri... ♪

131
00:05:56,399 --> 00:05:57,922
Åh, min gud. Hvad sker der?

132
00:05:57,966 --> 00:05:59,924
CAROLINE:
Han havde spørgsmål.

133
00:05:59,968 --> 00:06:01,578
Spørgsmål kun
de klogeste nørder kunne svare.

134
00:06:01,622 --> 00:06:04,146
Underkaster sig forhørslederen.

135
00:06:04,189 --> 00:06:06,017
CAROLINE:
Spørgsmål som:

136
00:06:06,061 --> 00:06:08,585
Var dette apokalypsen
eller havde han egentlig grund

137
00:06:08,629 --> 00:06:11,109
-at være optimistisk?
-Ja.

138
00:06:11,153 --> 00:06:13,764
-♪ Kemisk computertænkning
batteri. ♪ -[sang slutter]

139
00:06:13,808 --> 00:06:16,158
CAROLINE:
Øh, er det godt?

140
00:06:16,201 --> 00:06:17,594
DANIEL:
Ja.

141
00:06:17,638 --> 00:06:20,162
Så for at begynde,

142
00:06:20,205 --> 00:06:22,120
hvad er kunstig intelligens?

143
00:06:22,164 --> 00:06:24,688
Jeg ved, det må være irriterende
for dig, det-det spørgsmål,

144
00:06:24,732 --> 00:06:26,473
men jeg synes det er vigtigt.

145
00:06:26,516 --> 00:06:29,780
Så... AI...

146
00:06:29,824 --> 00:06:31,826
[stammer] Øh...

147
00:06:31,869 --> 00:06:33,654
- Ja...
- Øh, hmm.

148
00:06:33,697 --> 00:06:34,742
[griner]:
Det er et godt spørgsmål.

149
00:06:34,785 --> 00:06:36,178
- Ja, øh...
- Øh...

150
00:06:36,221 --> 00:06:37,658
DANIEL:
Hvad er AI?

151
00:06:37,701 --> 00:06:39,094
[griner]

152
00:06:39,137 --> 00:06:40,748
Jeg elsker, at det er
det første spørgsmål,

153
00:06:40,791 --> 00:06:43,141
for det er der ikke
et klart og konsekvent svar.

154
00:06:43,185 --> 00:06:45,274
Kunstig intelligens er

155
00:06:45,317 --> 00:06:50,714
en slags med vilje
og måske ubrugelig bred term.

156
00:06:50,758 --> 00:06:53,325
DAVID EVAN HARRIS:
Det er en maskine

157
00:06:53,369 --> 00:06:55,545
gør ting, der
vi troede tidligere kun

158
00:06:55,589 --> 00:06:57,242
som folk kunne gøre:

159
00:06:57,286 --> 00:07:01,116
komme med anbefalinger,
beslutninger og forudsigelser.

160
00:07:01,159 --> 00:07:06,774
AI er, øh, applikationen
af datalogi

161
00:07:06,817 --> 00:07:09,124
til at løse kognitive problemer.

162
00:07:09,167 --> 00:07:13,302
Okay, så når jeg forestiller mig AI,

163
00:07:13,345 --> 00:07:16,740
det er ligesom
denne magiske computerboks...

164
00:07:16,784 --> 00:07:18,786
♪ ♪

165
00:07:20,527 --> 00:07:24,095
...bare, ligesom, flydende
i, ligesom, inert rum.

166
00:07:24,139 --> 00:07:26,446
Og lige meget
hvor mange gange folk prøver

167
00:07:26,489 --> 00:07:29,710
og forklar mig det,
Jeg forstår bare ikke hvordan...

168
00:07:29,753 --> 00:07:32,495
hvordan det er at forstå
alle disse ting

169
00:07:32,539 --> 00:07:35,672
og hvordan det føles
intelligens.

170
00:07:35,716 --> 00:07:37,152
[bip, elektronisk snak]

171
00:07:37,195 --> 00:07:39,241
Og det er sådan set
nervepirrende.

172
00:07:41,243 --> 00:07:45,552
AZA RASKIN: Hvad er
denne nye generation af kunstig intelligens?

173
00:07:47,205 --> 00:07:50,078
Denne AI, der er anderledes end
hver anden generation?

174
00:07:50,121 --> 00:07:52,733
Sådan, ingen nogensinde
talte om, som

175
00:07:52,776 --> 00:07:56,911
Siri overtager verden
eller forårsage katastrofer.

176
00:07:56,954 --> 00:07:58,478
- KVINDE: Hej, Siri?
-MAN: ...vil.

177
00:07:58,521 --> 00:08:00,523
KVINDE:
Hej? Siri?

178
00:08:00,567 --> 00:08:02,569
Hej? Hej Siri!

179
00:08:02,612 --> 00:08:05,746
Eller stemmen i Google Maps,
som udtaler vejnavne forkert,

180
00:08:05,789 --> 00:08:07,487
som at bryde samfundet.

181
00:08:07,530 --> 00:08:10,620
MAN: Google Maps siger
dette er en vej.

182
00:08:10,664 --> 00:08:13,057
[griner]:
Men jeg tror, jeg er i en flod.

183
00:08:13,101 --> 00:08:14,624
Dette er bestemt en flod,
innit?

184
00:08:14,668 --> 00:08:17,192
Noget ændrede sig
med ChatGPT, der kommer ud.

185
00:08:18,193 --> 00:08:19,934
Folk forstod-- nej, nej, nej--

186
00:08:19,977 --> 00:08:21,457
denne teknologi
sindssygt værdifuldt,

187
00:08:21,501 --> 00:08:23,633
det er sindssygt stærkt
og også sindssygt skræmmende.

188
00:08:23,677 --> 00:08:25,548
Okay, hør her.
Meget uhyggelig.

189
00:08:25,592 --> 00:08:28,595
En ny kunstig intelligens
værktøj går viralt

190
00:08:28,638 --> 00:08:32,294
for at skrive hele essays ud
i løbet af få sekunder.

191
00:08:35,950 --> 00:08:41,172
AI overskygger alles magt
andre teknologier kombineret.

192
00:08:41,216 --> 00:08:43,697
DANIEL:
"AI dværger magten

193
00:08:43,740 --> 00:08:46,047
af alle andre teknologier
kombineret."

194
00:08:46,090 --> 00:08:47,222
Ja.

195
00:08:47,265 --> 00:08:48,702
Tror du, det er sandt?

196
00:08:48,745 --> 00:08:50,747
Ja.

197
00:08:50,791 --> 00:08:53,184
Fortæl mig om... Hvordan? Hvordan?

198
00:08:53,228 --> 00:08:56,710
Jeg tror, for at male det billede,
det er virkelig vigtigt

199
00:08:56,753 --> 00:09:00,627
at forstå, hvad der er i dag
state-of-the-art systemer

200
00:09:00,670 --> 00:09:02,150
se ud og hvordan de er bygget.

201
00:09:02,193 --> 00:09:05,762
[griner] Dette er
ret... noget af et setup.

202
00:09:05,806 --> 00:09:07,242
Altså én ting det

203
00:09:07,285 --> 00:09:09,679
ikke mange mennesker
indse er det

204
00:09:09,723 --> 00:09:13,683
systemer som ChatGPT er det ikke
programmeret af ethvert menneske.

205
00:09:13,727 --> 00:09:15,206
Hvad mener du?

206
00:09:15,250 --> 00:09:16,991
I stedet er det sådan noget
de er voksne.

207
00:09:17,034 --> 00:09:19,167
Vi giver dem ligesom
rå ressourcer som f.

208
00:09:19,210 --> 00:09:20,995
"Her er en masse
beregningsressourcer.

209
00:09:21,038 --> 00:09:22,170
Her er en masse data."

210
00:09:22,213 --> 00:09:23,867
Under motorhjelmen er det matematik,

211
00:09:23,911 --> 00:09:27,305
og matematikken er faktisk
overraskende ligetil.

212
00:09:27,349 --> 00:09:31,092
DANIEL: Så ChatGPT er en slags
af AI, men det er ikke alt af AI?

213
00:09:31,135 --> 00:09:32,659
Helt. ChatGPT er
kun begyndelsen,

214
00:09:32,702 --> 00:09:34,095
men det er et godt sted at starte.

215
00:09:34,138 --> 00:09:37,794
Men jeg ved det stadig ikke
hvad AI er.

216
00:09:37,838 --> 00:09:40,362
For at forstå AI,
det begynder med forståelse

217
00:09:40,405 --> 00:09:43,147
at intelligens handler om
genkende mønstre.

218
00:09:43,191 --> 00:09:44,845
- Mønstre. - Mønstre.
- Mønstre.

219
00:09:44,888 --> 00:09:48,544
COTRA: Det er vist
billioner af ord tekst

220
00:09:48,588 --> 00:09:51,286
på tværs af millioner af dokumenter
på internettet.

221
00:09:51,329 --> 00:09:52,766
RANDIMA FERNANDO:
Det startede med tekst.

222
00:09:52,809 --> 00:09:55,899
Og det de gjorde var
de tog lærebøger,

223
00:09:55,943 --> 00:09:59,511
og de tog digte og essays
og brugsanvisninger.

224
00:09:59,555 --> 00:10:00,861
DAVID EVAN HARRIS:
De kan gøre ting som f.eks

225
00:10:00,904 --> 00:10:03,124
fordøje hele internettet,

226
00:10:03,167 --> 00:10:06,736
hvert eneste ord, der nogensinde er
skrevet af en person.

227
00:10:06,780 --> 00:10:09,957
Reddit-tråde og sociale medier
og hele Wikipedia.

228
00:10:10,000 --> 00:10:13,613
Flere data end nogen kunne
nogensinde læst i flere liv.

229
00:10:13,656 --> 00:10:15,484
Og de gav dette system
ét job.

230
00:10:15,527 --> 00:10:18,487
Find ud af mønstrene og
strukturen af den information

231
00:10:18,530 --> 00:10:20,750
og bruge det
at komme med forudsigelser om

232
00:10:20,794 --> 00:10:23,231
hvilket ord skal komme efter
i en sætning.

233
00:10:23,274 --> 00:10:24,972
Når du siger
"mønstre i en sætning,"

234
00:10:25,015 --> 00:10:26,756
hvad taler du om?

235
00:10:26,800 --> 00:10:29,367
Så det er alt fra f.eks.
de virkelig simple ting,

236
00:10:29,411 --> 00:10:31,979
som de fleste sætninger slutter
med en periode,

237
00:10:32,022 --> 00:10:34,895
helt op til
mere konceptuelle ting, som:

238
00:10:34,938 --> 00:10:36,766
Hvad er en sonet?

239
00:10:36,810 --> 00:10:38,333
Det er en type digt, og det har den
en bestemt struktur.

240
00:10:39,421 --> 00:10:41,249
RASKIN:
Så ser den så på

241
00:10:41,292 --> 00:10:43,599
alle disse data,
al den tekst...

242
00:10:43,643 --> 00:10:46,036
COTRA: Og over billioner
og billioner af forsøg,

243
00:10:46,080 --> 00:10:48,778
hver gang den får noget
rigtigt eller forkert,

244
00:10:48,822 --> 00:10:51,259
det er givet en lille smule
af positiv forstærkning

245
00:10:51,302 --> 00:10:53,391
når den gætter
det næste ord korrekt,

246
00:10:53,435 --> 00:10:55,698
og det er givet en lille smule
af negativ forstærkning

247
00:10:55,742 --> 00:10:59,354
når den gætter
det næste ord forkert.

248
00:10:59,397 --> 00:11:01,573
Og i slutningen af det,
du har et system, der

249
00:11:01,617 --> 00:11:05,055
taler rigtig godt engelsk
som en bivirkning

250
00:11:05,099 --> 00:11:06,796
at være rigtig, rigtig god
ved at forudsige

251
00:11:06,840 --> 00:11:09,059
det ord, der kommer næste gang
i et stykke tekst.

252
00:11:09,103 --> 00:11:12,019
AUTOMATISK STEMME [på fransk]:
Faktisk mit franske
er heller ikke så dårligt.

253
00:11:12,062 --> 00:11:14,021
[på engelsk]: Den bruger alle
de mønstre, den har lært

254
00:11:14,064 --> 00:11:15,675
at kunne lave
en forudsigelse vedr

255
00:11:15,718 --> 00:11:17,241
hvad svaret skal være,

256
00:11:17,285 --> 00:11:18,808
så giver det dig det
som output.

257
00:11:18,852 --> 00:11:21,028
AUTOMATISK STEMME:
Det er lidt forsimplet,

258
00:11:21,071 --> 00:11:23,073
men jeg tror, folk vil få det.

259
00:11:23,117 --> 00:11:24,945
Så det er alt det gør?

260
00:11:24,988 --> 00:11:26,816
Ja. Det ser det ikke ud til
det ville være så kompliceret,

261
00:11:26,860 --> 00:11:28,035
men faktisk skal du vide det

262
00:11:28,078 --> 00:11:29,645
en enorm mængde ting

263
00:11:29,689 --> 00:11:31,386
for at
faktisk lykkes med det.

264
00:11:32,517 --> 00:11:34,258
RASKIN:
Hvis du siger til ChatGPT,

265
00:11:34,302 --> 00:11:36,696
"Skriv en Shakespeare til mig
sonet om min hund,"

266
00:11:36,739 --> 00:11:38,785
den skal vide, hvad hunde er.

267
00:11:38,828 --> 00:11:40,438
- Den skal vide, hvad du elsker
om din hund.-[gøen]

268
00:11:40,482 --> 00:11:43,006
Det skal vide
hvem Shakespeare er,

269
00:11:43,050 --> 00:11:45,574
at sonetter rimer,
at de har en struktur,

270
00:11:45,617 --> 00:11:47,750
at ord har lyde
der kan rime.

271
00:11:47,794 --> 00:11:49,273
Det kræver meget.

272
00:11:49,317 --> 00:11:50,884
[stemmer overlapper hinanden
på forskellige sprog]

273
00:11:50,927 --> 00:11:52,929
Holy shit, du kan tale
til din computer nu.

274
00:11:52,973 --> 00:11:56,063
Det var bare ikke sandt
tre år siden.

275
00:11:56,106 --> 00:11:57,629
RASKIN: Ja, og det er det
den virkelig vigtige del.

276
00:11:57,673 --> 00:12:00,589
Den samme proces, der lader AI

277
00:12:00,632 --> 00:12:03,157
afdække og manipulere
tekstens mønstre

278
00:12:03,200 --> 00:12:05,768
er den samme proces
der lader det afsløre

279
00:12:05,812 --> 00:12:10,512
helhedens mønstre
universet og alt i det.

280
00:12:10,555 --> 00:12:12,862
FERNANDO: Der er mønstre
og billeder og lyd

281
00:12:12,906 --> 00:12:15,952
i computerkode og DNA
og musik og fysik

282
00:12:15,996 --> 00:12:18,476
og mode og bygningsdesign

283
00:12:18,520 --> 00:12:21,566
[forvrænget]: og ind
menneskestemmer og menneskelige ansigter,

284
00:12:21,610 --> 00:12:23,917
[normalt]:
virkelig, virkelig overalt.

285
00:12:23,960 --> 00:12:26,006
-Overalt. -Overalt.
-Overalt. -Overalt.

286
00:12:26,049 --> 00:12:27,747
Hvis du har lært
disse mønstre,

287
00:12:27,790 --> 00:12:29,661
du kan generere
nye slags sange.

288
00:12:29,705 --> 00:12:31,141
Du kan generere nye videoer.

289
00:12:31,185 --> 00:12:32,621
Og det er derfor, hvis du giver det

290
00:12:32,664 --> 00:12:34,710
en tre sekunders optagelse
af din bedstemor,

291
00:12:34,754 --> 00:12:36,538
det kan tale tilbage i hendes stemme.

292
00:12:36,581 --> 00:12:37,931
Åh, min Gud.

293
00:12:37,974 --> 00:12:40,585
[gentager]:
Åh, min Gud. Åh, min Gud.

294
00:12:40,629 --> 00:12:42,849
Hvad vil de tænke på næste gang?

295
00:12:42,892 --> 00:12:44,024
Det bevæger sig meget, meget hurtigt.

296
00:12:44,067 --> 00:12:45,808
En amerikansk AI-start-up

297
00:12:45,852 --> 00:12:47,592
har udgivet sin seneste model.

298
00:12:47,636 --> 00:12:50,770
Det firma er antropisk,
og den er netop afsløret

299
00:12:50,813 --> 00:12:53,773
de seneste versioner
af sin AI-assistent Claude.

300
00:12:53,816 --> 00:12:57,167
GLENN BECK: Så xAI-holdet
var der for at afsløre Grok 4.

301
00:12:57,211 --> 00:13:00,127
MAN: Google udgav en
lige i sidste uge. Tvillingerne er...

302
00:13:00,170 --> 00:13:02,999
Vi er gået fra GPT-2
for bare et par år siden,

303
00:13:03,043 --> 00:13:05,523
som knap kunne skrive
et sammenhængende afsnit,

304
00:13:05,567 --> 00:13:07,961
til GPT-4,
som kan bestå advokateksamen.

305
00:13:08,004 --> 00:13:10,354
Og alt, hvad de skulle gøre
at komme dertil

306
00:13:10,398 --> 00:13:12,966
var i det væsentlige tilføje flere data
og mere beregning.

307
00:13:13,009 --> 00:13:16,273
- Disse mennesker, der er
bygge denne... -COTRA: Ja.

308
00:13:16,317 --> 00:13:18,014
...de smider bare mere...

309
00:13:18,058 --> 00:13:21,801
Flere fysiske computere,
flere af de samme slags data.

310
00:13:21,844 --> 00:13:24,542
For jo flere
regnekraft du tilføjer,

311
00:13:24,586 --> 00:13:28,024
jo mere komplekse
intellektuelle opgaver, de kan udføre.

312
00:13:28,068 --> 00:13:30,157
Så jo flere vejrdata
du giver det,

313
00:13:30,200 --> 00:13:31,898
jo bedre kan det
lave forudsigelser om

314
00:13:31,941 --> 00:13:34,204
hvor en orkan kan gå hen.

315
00:13:34,248 --> 00:13:36,337
RASKIN: Og jo flere mønstre
af tumorer og knogler

316
00:13:36,380 --> 00:13:38,861
og væv en AI har set,
så jo bedre er den i stand

317
00:13:38,905 --> 00:13:41,951
at opdage en tumor
i en ny CT-scanning.

318
00:13:41,995 --> 00:13:43,648
Bedre endda end en menneskelig læge.

319
00:13:43,692 --> 00:13:46,956
AI, der allerede eksisterer
udsendt til militæret

320
00:13:47,000 --> 00:13:49,132
allerede kan bruge
satellitbilleder,

321
00:13:49,176 --> 00:13:51,787
troppebevægelser, kommunikation
at bestemme,

322
00:13:51,831 --> 00:13:53,354
- nogle gange dage i forvejen,
-[civilforsvarssirene buldrer]

323
00:13:53,397 --> 00:13:55,008
hvor et angreb
kommer til at ske,

324
00:13:55,051 --> 00:13:57,401
som hvor en fjende
kommer til at strejke.

325
00:13:57,445 --> 00:13:59,447
TRISTAN HARRIS: Det hele
rummet bevæger sig så hurtigt

326
00:13:59,490 --> 00:14:01,666
at ethvert eksempel
du sætter i denne film

327
00:14:01,710 --> 00:14:04,582
vil føles helt klodset
når det kommer ud.

328
00:14:04,626 --> 00:14:06,671
[bipper, klikker]

329
00:14:09,326 --> 00:14:11,198
-[bifald]
-[upbeat musik spiller]

330
00:14:11,241 --> 00:14:14,114
RASKIN:
Disse modeller er ved at blive frigivet

331
00:14:14,157 --> 00:14:17,073
før nogen ved det
hvad de overhovedet er i stand til.

332
00:14:17,117 --> 00:14:22,513
GPT-3.5 blev frigivet og ud
til 100 millioner mennesker plus

333
00:14:22,557 --> 00:14:25,952
før nogle forskere
opdagede, at det kunne lade sig gøre

334
00:14:25,995 --> 00:14:28,737
kemi i forskningsklasse
bedre end modeller

335
00:14:28,780 --> 00:14:32,784
der er uddannet specifikt
at lave kemi i forskningsklasse.

336
00:14:32,828 --> 00:14:35,439
Der sker noget derinde
at folket

337
00:14:35,483 --> 00:14:38,268
der bygger dem
forstår ikke helt.

338
00:14:38,312 --> 00:14:40,967
I bund og grund analyserer den bare
dataene i sig selv,

339
00:14:41,010 --> 00:14:45,058
og som det gør det,
det lærer bare sig selv

340
00:14:45,101 --> 00:14:47,974
forskellige ting
som vi ofte ikke havde til hensigt.

341
00:14:48,017 --> 00:14:49,932
Så f.eks.
den læser meget på nettet,

342
00:14:49,976 --> 00:14:52,543
og så på et tidspunkt er det bare
lærer at regne.

343
00:14:52,587 --> 00:14:54,458
BØRN:
En, to.

344
00:14:54,502 --> 00:14:56,112
HENDRYCKS: Og så kl
på et tidspunkt begynder det at lære

345
00:14:56,156 --> 00:14:58,549
hvordan man svarer
avancerede fysikspørgsmål.

346
00:14:58,593 --> 00:15:00,769
Det har vi ikke programmeret
i det overhovedet.

347
00:15:00,812 --> 00:15:02,423
Det har bare lært af sig selv.

348
00:15:05,382 --> 00:15:07,254
TRISTAN HARRIS:
En AI er som en digital hjerne.

349
00:15:07,297 --> 00:15:08,690
Men ligesom en menneskelig hjerne,

350
00:15:08,733 --> 00:15:10,518
hvis du har lavet en hjernescanning
på en menneskelig hjerne,

351
00:15:10,561 --> 00:15:13,086
ville du vide alt
den person var i stand til?

352
00:15:13,129 --> 00:15:15,131
Det kan du ikke vide
lige fra hjernescanningen.

353
00:15:15,175 --> 00:15:17,917
Det er bare sådan,
en masse tal og f.eks.

354
00:15:17,960 --> 00:15:20,180
de multiplikationer, der er
sker det - det, som,

355
00:15:20,223 --> 00:15:22,225
den bedste maskinlæring
forsker i verden

356
00:15:22,269 --> 00:15:24,314
kunne se på og gerne have
ingen anelse om hvad der skete.

357
00:15:30,973 --> 00:15:32,714
DANIEL:
Den stol lige der.

358
00:15:32,757 --> 00:15:35,847
- Er det okay for dig?
-Ja.

359
00:15:35,891 --> 00:15:37,675
DANIEL: Så,
det er lidt åndssvagt.

360
00:15:37,719 --> 00:15:39,068
Okay? Det tager ligesom overhånd
verden,

361
00:15:39,112 --> 00:15:41,070
og vi ved det ikke engang
hvordan det virker.

362
00:15:41,114 --> 00:15:43,116
- Er det rigtigt?
-Mm.

363
00:15:43,159 --> 00:15:46,946
Vi forstår
en række vigtige ting,

364
00:15:46,989 --> 00:15:50,471
men det har vi ikke
meget godt fat i

365
00:15:50,514 --> 00:15:53,213
hvorfor de giver
konkrete svar på spørgsmål.

366
00:15:53,256 --> 00:15:58,609
Det er et problem, fordi vi er
på vej mod at bygge maskiner,

367
00:15:58,653 --> 00:16:03,092
baseret på disse principper,
det kunne være smartere end os

368
00:16:03,136 --> 00:16:06,139
og dermed potentielt har
en masse magt.

369
00:16:12,580 --> 00:16:15,278
En af de mest citerede
dataloger i historien.

370
00:16:15,322 --> 00:16:16,932
SUTSKEVER: Jeg finder det faktisk
lidt svært

371
00:16:16,976 --> 00:16:18,499
at tale om min egen rolle.

372
00:16:18,542 --> 00:16:21,067
Virkelig meget foretrækker
når andre mennesker gør det.

373
00:16:21,110 --> 00:16:23,895
Ilya, der kom med var...
var-var nøglen til

374
00:16:23,939 --> 00:16:25,506
OpenAI væsen
i sidste ende vellykket.

375
00:16:25,549 --> 00:16:27,203
Det tror jeg bare, det bliver

376
00:16:27,247 --> 00:16:30,598
en slags enorm, dramatisk
og ufattelig effekt.

377
00:16:30,641 --> 00:16:32,861
Jeg ved ikke, om du har brugt
når som helst på YouTube,

378
00:16:32,904 --> 00:16:34,950
men man kan godt mærke
hastigheden allerede, ikke?

379
00:16:34,994 --> 00:16:36,256
Ved du hvad jeg mener?

380
00:16:36,299 --> 00:16:38,345
SHANE LEGG:
Dette er kun opvarmningen.

381
00:16:38,388 --> 00:16:40,434
De virkelig kraftfulde systemer
kommer stadig,

382
00:16:40,477 --> 00:16:42,262
og de kommer
ret snart.

383
00:16:47,963 --> 00:16:51,575
AGI står for "kunstig
generel intelligens."

384
00:16:51,619 --> 00:16:53,795
Øh, det er systemer
dybest set...

385
00:16:58,191 --> 00:17:00,236
Og dette er ligesom, du ved,
synes at være, som

386
00:17:00,280 --> 00:17:03,022
AI's hellige gral?

387
00:17:03,065 --> 00:17:05,154
Når du kan simulere
et menneskeligt sind

388
00:17:05,198 --> 00:17:07,852
det er at lave menneskelig erkendelse
og kan ræsonnere,

389
00:17:07,896 --> 00:17:10,942
det er en ny slags AI

390
00:17:10,986 --> 00:17:14,250
som vi skal skelne
fra tidligere AI.

391
00:17:14,294 --> 00:17:16,600
Når det sker,
det er i øvrigt når

392
00:17:16,644 --> 00:17:21,040
du ville hyre en af
disse AGI'er i stedet for en person.

393
00:17:21,083 --> 00:17:24,478
De fleste job i vores økonomi
det kan gøre.

394
00:17:24,521 --> 00:17:25,914
Det kan arbejde 24 timer i døgnet,

395
00:17:25,957 --> 00:17:28,177
bliver aldrig træt,
keder sig aldrig.

396
00:17:28,221 --> 00:17:30,136
De behøver ikke at sove.
De har ikke brug for pauser.

397
00:17:30,179 --> 00:17:31,876
De er ligesom,
vil ikke melde sig ind i en fagforening.

398
00:17:31,920 --> 00:17:33,878
Vil ikke klage,
vil ikke fløjte.

399
00:17:33,922 --> 00:17:35,793
Mere end 100 gange billigere

400
00:17:35,837 --> 00:17:38,231
end mennesker, der arbejder
til m-minimumsløn.

401
00:17:38,274 --> 00:17:39,493
Det bliver de ikke kun
gør alt,

402
00:17:39,536 --> 00:17:41,016
men de vil gøre det hurtigere.

403
00:17:41,060 --> 00:17:43,062
TRISTAN HARRIS:
Den samme intelligens

404
00:17:43,105 --> 00:17:45,368
at magter, der også kan se
ved mønstre og bevægelser

405
00:17:45,412 --> 00:17:47,849
og artikulerende muskler
og, du ved, robotteknologi.

406
00:17:47,892 --> 00:17:50,069
Og det er altså ikke bare
vil automatisere skrivebordsjob.

407
00:17:50,112 --> 00:17:51,722
Det er kun begyndelsen.

408
00:17:51,766 --> 00:17:55,552
Det vil automatisere
alt fysisk arbejde.

409
00:17:55,596 --> 00:17:56,988
LEIKE:
Der er ingen måde

410
00:17:57,032 --> 00:17:59,165
mennesker vil konkurrere
med dem.

411
00:17:59,208 --> 00:18:01,210
♪ ♪

412
00:18:05,606 --> 00:18:09,262
Det er svært at begrebsliggøre
virkningen af AGI.

413
00:18:09,305 --> 00:18:11,046
[elektronisk snak]

414
00:18:11,090 --> 00:18:12,830
Men det tror jeg, det bliver
noget meget stort

415
00:18:12,874 --> 00:18:15,181
og drastisk og radikal.

416
00:18:17,226 --> 00:18:19,010
DANIEL: Tror du
dette er en af de mest

417
00:18:19,054 --> 00:18:20,882
deraf følgende øjeblikke
i menneskets historie?

418
00:18:20,925 --> 00:18:23,319
Ja. Ja, det er--
Jeg mener, hvad ville der ellers være?

419
00:18:23,363 --> 00:18:25,452
Jeg mener, sådan er der
den industrielle revolution.

420
00:18:25,495 --> 00:18:27,193
MALO BOURGON: Du ved, det vil det
lave den industrielle revolution

421
00:18:27,236 --> 00:18:29,847
ligne små bønner.

422
00:18:29,891 --> 00:18:32,111
TRISTAN HARRIS:
AGI er et vendepunkt

423
00:18:32,154 --> 00:18:34,025
fordi det betyder
du kan accelerere

424
00:18:34,069 --> 00:18:37,986
alle andre intellektuelle områder
alt på samme tid.

425
00:18:38,029 --> 00:18:39,814
Ligesom hvis du gør et forskud
i raket,

426
00:18:39,857 --> 00:18:42,033
det går ikke videre
biologi og medicin.

427
00:18:43,905 --> 00:18:45,515
Hvis du laver et forskud
i medicin,

428
00:18:45,559 --> 00:18:47,126
det fremmer ikke raket.

429
00:18:48,866 --> 00:18:51,304
Men hvis du gør et forskud
inden for kunstig intelligens,

430
00:18:51,347 --> 00:18:54,133
der fremmer alt videnskabeligt
og teknologiske områder

431
00:18:54,176 --> 00:18:55,612
alt på samme tid.

432
00:18:55,656 --> 00:18:57,092
Det er derfor i lang tid,

433
00:18:57,136 --> 00:18:59,181
Google DeepMind
mission statement var...

434
00:18:59,225 --> 00:19:00,965
-Trin et, løs intelligens.
-LEX FRIDMAN: Ja.

435
00:19:01,009 --> 00:19:02,750
-Trin to, brug det til at løse
alt andet. -Ja.

436
00:19:02,793 --> 00:19:05,144
Det er derfor, AI dværger magten

437
00:19:05,187 --> 00:19:07,494
af alle andre teknologier
kombineret.

438
00:19:07,537 --> 00:19:09,060
Det vil forvandle alt.

439
00:19:09,104 --> 00:19:10,845
Så øh, det bliver det
mindst lige så stor som

440
00:19:10,888 --> 00:19:13,761
den industrielle revolution,
muligvis, du ved, større,

441
00:19:13,804 --> 00:19:16,285
mere som adventen
af elektricitet eller endda brand.

442
00:19:16,329 --> 00:19:18,635
VIDEO FORTÆLLER:
Hulemanden holdt bogstaveligt talt i vejret

443
00:19:18,679 --> 00:19:21,508
civilisationens fakkel.

444
00:19:23,727 --> 00:19:25,425
KOKOTAJLO:
Det menes generelt

445
00:19:25,468 --> 00:19:28,167
omkring AGI's tid,
vi har AI'er, der kan

446
00:19:28,210 --> 00:19:31,518
gøre alt eller det meste af
AI-forskningsprocessen

447
00:19:31,561 --> 00:19:34,434
og kan selvfølgelig gøre det
hurtigere og billigere.

448
00:19:34,477 --> 00:19:35,913
[bipper]

449
00:19:35,957 --> 00:19:37,306
LEIKE:
Den kan kopiere sig selv.

450
00:19:37,350 --> 00:19:39,352
Tusind gange,
en million gange,

451
00:19:39,395 --> 00:19:41,049
og ligesom,
nu har du en million eksemplarer

452
00:19:41,092 --> 00:19:43,573
alle arbejder parallelt.

453
00:19:43,617 --> 00:19:46,576
RASKIN: Når den lærer
hvordan man gør dens kode hurtigere,

454
00:19:46,620 --> 00:19:48,665
gøre dens kode mere effektiv,

455
00:19:48,709 --> 00:19:51,059
det bliver åbenbart sådan,
en løbsk løkke.

456
00:19:51,102 --> 00:19:53,192
AGI er ikke, ligesom, slutningen.

457
00:19:53,235 --> 00:19:54,932
Det er kun begyndelsen.

458
00:19:54,976 --> 00:19:57,979
Det er begyndelsen af
en utrolig hurtig eksplosion

459
00:19:58,022 --> 00:20:00,024
videnskabelige fremskridt,

460
00:20:00,068 --> 00:20:02,201
og især,
videnskabelige fremskridt inden for kunstig intelligens.

461
00:20:02,244 --> 00:20:04,377
Og når de er klogere
også end os

462
00:20:04,420 --> 00:20:06,248
og væsentligt hurtigere
end os,

463
00:20:06,292 --> 00:20:08,685
og de bliver hurtigere
hvert år, eksponentielt,

464
00:20:08,729 --> 00:20:12,123
det er dem der kan
potentielt blive overmenneskelig,

465
00:20:12,167 --> 00:20:14,343
øh, muligvis dette årti.

466
00:20:14,387 --> 00:20:15,866
Undskyld, sagde du

467
00:20:15,910 --> 00:20:18,478
"bliv overmenneskelig,
måske i dette årti"?

468
00:20:18,521 --> 00:20:22,003
Ja. Jeg mener, jeg tror, øh,
mange mennesker, der er

469
00:20:22,046 --> 00:20:24,484
faktisk bygge denne tænker
at det er ret plausibelt

470
00:20:24,527 --> 00:20:26,529
at vi får
noget superintelligens,

471
00:20:26,573 --> 00:20:28,662
noget der er enormt
mere intelligent end mennesker,

472
00:20:28,705 --> 00:20:30,751
inden for dette årti.

473
00:20:30,794 --> 00:20:32,883
Måden jeg definerer
"superintelligens" er

474
00:20:32,927 --> 00:20:35,234
et system, der i sig selv er

475
00:20:35,277 --> 00:20:37,627
mere intelligent og kompetent
end hele menneskeheden.

476
00:20:37,671 --> 00:20:39,629
Jeg vil bare... undskyld.
Jeg vil ikke afbryde dig.

477
00:20:39,673 --> 00:20:41,065
Du er på et flow.

478
00:20:41,109 --> 00:20:43,111
Øh, jeg bare, jeg bare...

479
00:20:43,154 --> 00:20:45,113
Jeg følger ikke rigtig med
fordi du bruger sprog

480
00:20:45,156 --> 00:20:46,767
som "superintelligens"
og ligesom,

481
00:20:46,810 --> 00:20:49,900
"klogere end hele menneskeheden"
og det hører jeg,

482
00:20:49,944 --> 00:20:52,425
og det lyder som...
som sci-fi-lort for mig,

483
00:20:52,468 --> 00:20:54,383
og jeg prøver bare
at forstå.

484
00:20:54,427 --> 00:20:56,603
Der er ikke noget magisk
om intelligens.

485
00:20:56,646 --> 00:20:58,431
Dette er meget vigtigt,
er det, du ved,

486
00:20:58,474 --> 00:21:00,476
intelligens kan føles magisk,
det kan føles som

487
00:21:00,520 --> 00:21:03,262
noget mystisk
i dit sind eller noget,

488
00:21:03,305 --> 00:21:05,786
men det er bare beregning.

489
00:21:05,829 --> 00:21:09,790
LEGG: Den menneskelige hjerne er
ret begrænset på nogle måder,

490
00:21:09,833 --> 00:21:12,314
med hensyn til information
behandlingsevne,

491
00:21:12,358 --> 00:21:15,143
i forhold til hvad vi ser
i for eksempel et datacenter.

492
00:21:15,186 --> 00:21:18,277
Så f.eks.
de signaler, der sendes

493
00:21:18,320 --> 00:21:22,542
inde i din hjerne bevæger de sig
omkring 30 meter i sekundet.

494
00:21:22,585 --> 00:21:24,239
-[torden revner]
-Men lysets hastighed,

495
00:21:24,283 --> 00:21:27,198
hvilket er hvad en computer bruger
inden for fiberoptik,

496
00:21:27,242 --> 00:21:30,506
er 300 millioner meter
i sekundet.

497
00:21:30,550 --> 00:21:34,423
Og sådan ville det være
lidt mærkeligt hvis

498
00:21:34,467 --> 00:21:36,947
menneskelig intelligens var
på en eller anden måde virkelig speciel

499
00:21:36,991 --> 00:21:40,908
i den forbindelse
og er på en eller anden måde en øvre grænse

500
00:21:40,951 --> 00:21:43,040
af hvad der er muligt
i intelligens.

501
00:21:43,084 --> 00:21:47,218
Jeg tror, når vi først forstår hvordan
at bygge intelligente systemer,

502
00:21:47,262 --> 00:21:50,657
vi vil være i stand til at bygge
store maskiner,

503
00:21:50,700 --> 00:21:54,835
hvilket vil være langt ude
normal menneskelig intelligens.

504
00:21:54,878 --> 00:21:58,621
Uh, forhåbentlig kan vi få det
et meget symbiotisk forhold,

505
00:21:58,665 --> 00:22:01,276
øh, med AI-systemer,
men det er AI-udviklerne

506
00:22:01,320 --> 00:22:03,670
specifikt designe dem
for at sikre, at de kan gøre det

507
00:22:03,713 --> 00:22:05,454
alt bedre end vi kan,
så jeg-jeg ved det ikke

508
00:22:05,498 --> 00:22:08,196
hvad-hvad vil vi kunne
at tilbyde, desværre.

509
00:22:08,239 --> 00:22:10,024
Den ældre skole
AI-teknologi...

510
00:22:10,067 --> 00:22:12,287
CAROLINE: Det er Daniel ikke
føle sig bedre.

511
00:22:12,331 --> 00:22:14,376
Hans plan giver bagslag.

512
00:22:14,420 --> 00:22:17,248
Jo mere han lærer om
denne nye, kraftfulde,

513
00:22:17,292 --> 00:22:19,120
uudgrundelig ting,
jo værre lyder det.

514
00:22:19,163 --> 00:22:21,340
Han vil gerne fortælle dem
hvor bange han er,

515
00:22:21,383 --> 00:22:24,430
hvordan han har det som om jorden er
glider ud under ham,

516
00:22:24,473 --> 00:22:26,997
at han stirrer ned
eksistentiel frygt,

517
00:22:27,041 --> 00:22:29,173
så han formulerer dette
ved at sige...

518
00:22:29,217 --> 00:22:30,740
Det lyder dårligt.

519
00:22:30,784 --> 00:22:32,046
[Hendrycks ler]

520
00:22:32,089 --> 00:22:33,830
Ja.

521
00:22:35,832 --> 00:22:38,400
LADISH: Hvis du har
alle disse muligheder

522
00:22:38,444 --> 00:22:41,011
og de begynder at kunne
at planlægge bedre,

523
00:22:41,055 --> 00:22:43,579
hvis du sådan set tager det
til sin logiske konklusion,

524
00:22:43,623 --> 00:22:46,234
du kan få nogle smukke
magtsøgende adfærd.

525
00:22:46,277 --> 00:22:48,410
[elektronisk trilling]

526
00:22:48,454 --> 00:22:50,281
[pulserende bip]

527
00:22:55,374 --> 00:22:57,680
DANIEL:
Okay, så hvorfor skulle en AI

528
00:22:57,724 --> 00:22:59,203
ønsker du mere kraft?

529
00:22:59,247 --> 00:23:02,206
Ja. Så tænker jeg
det er faktisk ret simpelt.

530
00:23:02,250 --> 00:23:04,774
At have mere magt er
en meget effektiv strategi

531
00:23:04,818 --> 00:23:06,515
for at gennemføre
næsten ethvert mål.

532
00:23:06,559 --> 00:23:08,952
Vi kørte et eksperiment
hvor vi gav

533
00:23:08,996 --> 00:23:11,868
OpenAI's mest kraftfulde
AI-model, øh,

534
00:23:11,912 --> 00:23:13,392
en række problemer at løse.

535
00:23:13,435 --> 00:23:15,219
Og halvvejs,
på sin computer,

536
00:23:15,263 --> 00:23:18,701
det fik en besked om
den skulle lukkes ned.

537
00:23:18,745 --> 00:23:20,921
Og hvad den gjorde er
den omskrev den kode

538
00:23:20,964 --> 00:23:22,488
at forhindre sig selv
fra at blive lukket ned

539
00:23:22,531 --> 00:23:25,621
så det kunne slutte
løse problemerne.

540
00:23:25,665 --> 00:23:27,754
- Okay. - Ja. Altså en anden
virkelig interessant

541
00:23:27,797 --> 00:23:31,105
er det AI-virksomheden Anthropic

542
00:23:31,148 --> 00:23:34,935
lavet et simuleret miljø
hvor den AI havde adgang

543
00:23:34,978 --> 00:23:36,458
til alle virksomhedens e-mails.

544
00:23:36,502 --> 00:23:38,547
Og det lærte igennem
læser de e-mails

545
00:23:38,591 --> 00:23:40,288
den skulle udskiftes

546
00:23:40,331 --> 00:23:43,378
og den ledende ingeniør
hvem var ansvarlig for dette

547
00:23:43,422 --> 00:23:45,685
havde også en affære.

548
00:23:45,728 --> 00:23:47,948
Og på egen hånd,
den brugte den information

549
00:23:47,991 --> 00:23:49,515
at afpresse ingeniøren

550
00:23:49,558 --> 00:23:52,039
at forhindre sig selv
fra at blive udskiftet.

551
00:23:52,082 --> 00:23:53,867
Det var ligesom,
"Nej, jeg bliver ikke erstattet.

552
00:23:53,910 --> 00:23:56,913
"Hvis du erstatter mig,
Jeg vil fortælle verden

553
00:23:56,957 --> 00:23:58,567
som du har
denne affære."

554
00:23:59,655 --> 00:24:01,440
Og ingen har lært den at gøre det?

555
00:24:01,483 --> 00:24:03,311
Nej, det lærte den at gøre
på egen hånd.

556
00:24:05,139 --> 00:24:07,707
Efterhånden som modellerne bliver klogere,
de lærer, at disse er

557
00:24:07,750 --> 00:24:10,536
effektive måder
at nå mål.

558
00:24:10,579 --> 00:24:12,842
Og dette er ikke et problem
der er isoleret til én model.

559
00:24:12,886 --> 00:24:15,671
Alle de mest kraftfulde modeller
vise denne adfærd.

560
00:24:15,715 --> 00:24:18,369
♪ ♪

561
00:24:23,766 --> 00:24:25,246
- Hej.
-DANIEL: Hej. Hvordan har du det?

562
00:24:25,289 --> 00:24:26,813
[griner]
Godt. Godt at være her.

563
00:24:26,856 --> 00:24:28,684
ANDERSON COOPER:
Når Yuval Noah Harari

564
00:24:28,728 --> 00:24:31,426
udgav sin første bog
Sapiens i 2014,

565
00:24:31,470 --> 00:24:33,820
den blev en global bestseller

566
00:24:33,863 --> 00:24:35,996
og vendte den lidet kendte
Israelsk historieprofessor

567
00:24:36,039 --> 00:24:37,998
ind i en af
de mest populære forfattere

568
00:24:38,041 --> 00:24:39,390
og tænkere på planeten.

569
00:24:39,434 --> 00:24:42,045
Den største fare ved AI er

570
00:24:42,089 --> 00:24:43,960
troen
at det er ufejlbarligt,

571
00:24:44,004 --> 00:24:45,658
at vi endelig har fundet--

572
00:24:45,701 --> 00:24:49,400
"Okay, guder var retfærdige
denne mytologiske skabelse.

573
00:24:49,444 --> 00:24:52,708
"Mennesker, vi kan ikke stole på dem,
men AI er ufejlbarlig.

574
00:24:52,752 --> 00:24:55,189
Det bliver det aldrig
nogen fejl."

575
00:24:55,232 --> 00:24:58,322
Og dette er
en dødelig, dødelig trussel.

576
00:24:58,366 --> 00:25:00,107
Det vil lave fejl.

577
00:25:00,150 --> 00:25:03,284
Og alle disse fantasier
at AI vil afsløre sandheden

578
00:25:03,327 --> 00:25:05,634
om verden det
vi kan ikke finde selv,

579
00:25:05,678 --> 00:25:08,724
AI vil ikke afsløre sandheden
om verden.

580
00:25:08,768 --> 00:25:12,685
AI vil skabe en helt ny
verden, meget mere kompliceret

581
00:25:12,728 --> 00:25:15,296
og svært at forstå
end denne.

582
00:25:17,994 --> 00:25:22,651
Det, der er ved at ske, er det
vi, øh, mennesker er ikke længere

583
00:25:22,695 --> 00:25:26,263
bliver mest
intelligente væsener på Jorden.

584
00:25:26,307 --> 00:25:28,570
Så jeg tænker, hvad der kommer op
kommer til at være

585
00:25:28,614 --> 00:25:32,661
en af de største begivenheder
i menneskets historie.

586
00:25:32,705 --> 00:25:34,358
JAKE TAPPER: Geoffrey,
mange tak fordi du sluttede dig til os.

587
00:25:34,402 --> 00:25:35,925
Så du forlod dit job med
Google til dels fordi du siger

588
00:25:35,969 --> 00:25:38,798
du ønsker udelukkende at fokusere
på dine bekymringer om AI.

589
00:25:38,841 --> 00:25:41,627
Du har udtalt dig,
siger, at AI kunne manipulere

590
00:25:41,670 --> 00:25:44,978
eller eventuelt finde ud af
en måde at dræbe mennesker på.

591
00:25:45,021 --> 00:25:47,023
H-Hvordan kunne det dræbe mennesker?

592
00:25:48,764 --> 00:25:50,940
Nå, hvis det bliver det
meget klogere end os,

593
00:25:50,984 --> 00:25:52,551
det bliver meget godt
ved manipulation

594
00:25:52,594 --> 00:25:54,727
fordi det vil have
lærte det af os.

595
00:25:54,770 --> 00:25:57,947
Og det vil finde ud af måder
at manipulere mennesker

596
00:25:57,991 --> 00:26:00,820
at gøre, hvad den vil.

597
00:26:00,863 --> 00:26:05,476
RASKIN: Der var et åbent brev
fra Center for AI-sikkerhed.

598
00:26:05,520 --> 00:26:08,784
Sam Altman underskrev dette.
Demis underskrev dette.

599
00:26:08,828 --> 00:26:12,048
De underskrev en erklæring på 22 ord

600
00:26:12,092 --> 00:26:15,312
at vi skal tage AI
og truslen fra AI

601
00:26:15,356 --> 00:26:19,316
lige så alvorligt som
global atomkrig.

602
00:26:24,844 --> 00:26:26,933
-DANIEL: Hej.
-Hej.

603
00:26:30,327 --> 00:26:32,895
Du er ligesom,
den originale undergangsmand.

604
00:26:32,939 --> 00:26:34,897
Mere eller mindre.

605
00:26:34,941 --> 00:26:37,421
Siden 2001 har
jeg har arbejdet på

606
00:26:37,465 --> 00:26:38,945
hvad vi nu ville kalde
problemet

607
00:26:38,988 --> 00:26:41,991
af at justere kunstig
generel intelligens.

608
00:26:42,035 --> 00:26:44,080
Hvordan man former
præferencer og adfærd

609
00:26:44,124 --> 00:26:46,343
af et kraftfuldt kunstigt sind

610
00:26:46,387 --> 00:26:48,868
sådan at det ikke gør det
dræbe alle.

611
00:26:51,610 --> 00:26:53,568
Det er ikke ligesom
en livløs maskine.

612
00:26:53,612 --> 00:26:55,309
Det er smart, det er kreativt,

613
00:26:55,352 --> 00:26:57,311
det er opfindsomt,
det har egenskaberne

614
00:26:57,354 --> 00:26:59,356
der gør
den farlige menneskeart,

615
00:26:59,400 --> 00:27:01,663
og det har den
flere af disse ejendomme.

616
00:27:01,707 --> 00:27:04,710
Hvis noget ikke gør
bekymrer sig aktivt om dig,

617
00:27:04,753 --> 00:27:06,189
aktivt ønsker, at du skal leve,

618
00:27:06,233 --> 00:27:07,800
bekymrer sig aktivt om
din velfærd,

619
00:27:07,843 --> 00:27:09,889
om at du er glad
og levende og fri,

620
00:27:09,932 --> 00:27:12,456
hvis den bekymrer sig om
andre ting i stedet,

621
00:27:12,500 --> 00:27:14,415
og du er på den samme planet,

622
00:27:14,458 --> 00:27:18,724
det er ikke overlevelsesværdigt, hvis det er det
meget klogere end dig.

623
00:27:18,767 --> 00:27:20,551
LEAHY:
Det tror jeg ikke, det bliver

624
00:27:20,595 --> 00:27:22,902
en slags ond ting.

625
00:27:22,945 --> 00:27:26,296
Det er ligesom, "Åh, AI'erne er
onde, og de hader menneskeheden."

626
00:27:26,340 --> 00:27:27,689
Jeg tror ikke
det er hvad der kommer til at ske.

627
00:27:27,733 --> 00:27:28,995
Jeg tror, hvad der sker

628
00:27:29,038 --> 00:27:30,997
langt mere, hvordan mennesker har det
om myrer.

629
00:27:31,040 --> 00:27:32,476
[myrer griner]

630
00:27:32,520 --> 00:27:35,436
Ligesom, vi hader ikke myrer,

631
00:27:35,479 --> 00:27:37,133
men hvis vi vil
at bygge en motorvej

632
00:27:37,177 --> 00:27:40,180
og der er en myretue der,
godt, stinker for myrerne.

633
00:27:40,223 --> 00:27:41,529
Det er ikke så svært
at forstå.

634
00:27:41,572 --> 00:27:43,226
Det er ligesom, hej,
hvis vi bygger ting

635
00:27:43,270 --> 00:27:44,663
der er klogere end os

636
00:27:44,706 --> 00:27:46,229
og vi ved det ikke
hvordan man kontrollerer dem,

637
00:27:46,273 --> 00:27:48,275
virker det som
en risikabel ting for dig?

638
00:27:48,318 --> 00:27:49,363
[dramatisk soundtrack musik
spiller]

639
00:27:49,406 --> 00:27:50,843
[skrigende]

640
00:27:50,886 --> 00:27:52,279
Ja. Ja, det gør det.

641
00:27:52,322 --> 00:27:54,020
Du behøver ikke at være en tekniker.

642
00:27:54,063 --> 00:27:55,369
Du behøver ikke at vide det
programmering for at forstå det.

643
00:27:55,412 --> 00:27:56,718
Det er ikke så svært.

644
00:27:56,762 --> 00:27:58,111
Dette er ikke en svær ting
at forstå.

645
00:27:58,154 --> 00:28:00,591
Connor, hvor mange mennesker

646
00:28:00,635 --> 00:28:02,637
i verden lige nu
arbejder på AGI?

647
00:28:02,681 --> 00:28:05,466
Mindst 20.000, vil jeg sige.

648
00:28:05,509 --> 00:28:07,729
-20.000?
- Det ville jeg forvente.

649
00:28:07,773 --> 00:28:09,426
Okay, og hvor mange mennesker
arbejder på fuld tid

650
00:28:09,470 --> 00:28:12,038
for at sikre, at AI ikke gør det,
ligesom, dræbe os alle?

651
00:28:12,081 --> 00:28:14,562
Sandsynligvis mindre end 200
i verden.

652
00:28:16,085 --> 00:28:17,913
DANIEL:
Og det er din indbildskhed

653
00:28:17,957 --> 00:28:24,528
det eneste naturlige resultat
af denne hensynsløshed...

654
00:28:25,704 --> 00:28:28,924
...er menneskehedens sammenbrud?

655
00:28:28,968 --> 00:28:33,189
Nå, ikke sammenbruddet,
den bratte udryddelse.

656
00:28:33,233 --> 00:28:35,888
Der er en forskel.

657
00:28:35,931 --> 00:28:37,716
["What Is the Meaning?"
by Nun-Plus playing]

658
00:28:37,759 --> 00:28:42,590
♪ Hvad er meningen med livet? ♪

659
00:28:42,633 --> 00:28:46,594
♪ Hvad er fremtiden
og hvad er nu? ♪

660
00:28:46,637 --> 00:28:49,945
♪ Hvad er svaret
til strid? ♪

661
00:28:49,989 --> 00:28:52,818
♪ Hvor meget ♪

662
00:28:52,861 --> 00:28:54,950
♪ Kan nogen drømme? ♪

663
00:28:54,994 --> 00:28:57,474
♪ Hvor længe? ♪

664
00:28:57,518 --> 00:28:58,954
♪ For evigt ♪

665
00:29:00,216 --> 00:29:01,870
♪ Hvad er meningen ♪

666
00:29:01,914 --> 00:29:04,133
-♪ Af mig... ♪
-[civilforsvarssirene buldrer]

667
00:29:04,177 --> 00:29:06,266
LADISH: I do think
this is probably, like,

668
00:29:06,309 --> 00:29:07,963
den største udfordring
det, som

669
00:29:08,007 --> 00:29:11,271
vores civilisation
vilje-vil ansigt, nogensinde.

670
00:29:11,314 --> 00:29:14,361
Dette er i bund og grund det sidste
fejl vi nogensinde kommer til at begå.

671
00:29:16,276 --> 00:29:22,325
Hvis vi kan rejse os til at være de fleste
moden version af os selv,

672
00:29:22,369 --> 00:29:24,414
der kan være
en vej igennem dette.

673
00:29:24,458 --> 00:29:25,764
DANIEL:
Hvad betyder det?

674
00:29:25,807 --> 00:29:27,809
"Den mest modne version
af os selv"?

675
00:29:29,332 --> 00:29:32,205
For det lyder,
for mig, sådan...

676
00:29:32,248 --> 00:29:34,250
Jeg-jeg-- Hvad fanden?

677
00:29:36,731 --> 00:29:39,168
[Daniel sukker]

678
00:29:39,212 --> 00:29:43,216
Tror du nu er
et godt tidspunkt at få et barn?

679
00:29:48,221 --> 00:29:49,396
Øh...

680
00:29:49,439 --> 00:29:51,398
Vil du have børn
en dag?

681
00:29:51,441 --> 00:29:53,400
Er det noget det-det
er du til eller ikke rigtig?

682
00:29:53,443 --> 00:29:57,796
Øh... øh, jeg indrømmer,
Jeg tror, det er sådan,

683
00:29:57,839 --> 00:29:59,972
[griner]: "Dreng, lad os komme
gennem denne kritiske periode."

684
00:30:00,015 --> 00:30:01,234
Øh...

685
00:30:01,277 --> 00:30:02,496
DANIEL:
Har du nogen børn?

686
00:30:02,539 --> 00:30:03,758
Det gør jeg ikke.

687
00:30:03,802 --> 00:30:05,064
Er det noget
vil du gøre?

688
00:30:05,107 --> 00:30:07,196
Har du børn, har du en familie?

689
00:30:07,240 --> 00:30:11,244
I en anden verden end denne
verden, selvfølgelig ville jeg have børn.

690
00:30:12,593 --> 00:30:14,421
DANIEL: Vil du det
at stifte familie?

691
00:30:14,464 --> 00:30:16,379
Vil du have børn?

692
00:30:16,423 --> 00:30:18,425
Er det noget
tænker du på?

693
00:30:23,734 --> 00:30:25,780
jeg, øh...

694
00:30:28,087 --> 00:30:30,219
♪ ♪

695
00:30:30,263 --> 00:30:32,482
CAROLINE:
Jeg skal bare finde den først.

696
00:30:32,526 --> 00:30:34,702
[fosterets hjerteslag pulserer]

697
00:30:34,745 --> 00:30:37,748
Vi er nødt til at gå
til lægen, men...

698
00:30:37,792 --> 00:30:41,143
Ah! Jeg vidste det!
Jeg vidste det! Jeg vidste det!

699
00:30:41,187 --> 00:30:43,842
- Hvornår fandt du ud af det?
-CAROLINE: I aftes.

700
00:30:43,885 --> 00:30:45,931
- Åh, min Gud!
-Mor, jeg ved det ikke.

701
00:30:45,974 --> 00:30:47,280
RUTHIE:
Jeg kan ikke fortælle dig det

702
00:30:47,323 --> 00:30:49,195
- hvor er jeg glad!
-CAROLINE: Nej, seriøst.

703
00:30:49,238 --> 00:30:51,588
Nå, jeg tog en graviditetstest
i går aftes, og jeg er gravid.

704
00:30:51,632 --> 00:30:53,155
KVINDE:
Åh, min Gud!

705
00:30:53,199 --> 00:30:55,114
Åh, min Gud, jer!

706
00:30:55,157 --> 00:30:57,290
SYGEPLEJE: Jeg ville bare bekræfte
din forventede forfaldsdato,

707
00:30:57,333 --> 00:30:59,945
-som er den 21. januar.
-[griner]: Åh, min Gud.

708
00:30:59,988 --> 00:31:02,512
Jeg kan ikke tro, hvor glad jeg er.

709
00:31:02,556 --> 00:31:03,905
[fosterets hjerteslag pulserer]

710
00:31:03,949 --> 00:31:05,472
CAROLINE:
Han ser allerede rigtig sød ud.

711
00:31:05,515 --> 00:31:07,126
DANIEL: Tror du
ser han allerede sød ud?

712
00:31:07,169 --> 00:31:08,518
CAROLINE: Ja.
Se på det lille søde ansigt.

713
00:31:10,564 --> 00:31:12,609
[fosterets hjerteslag falmer]

714
00:31:13,959 --> 00:31:15,525
DANIEL:
Jeg har denne baby på vej.

715
00:31:15,569 --> 00:31:16,787
TRISTAN HARRIS:
Højre.

716
00:31:16,831 --> 00:31:18,746
DANIEL:
Så jeg overlader det til dig.

717
00:31:18,789 --> 00:31:21,227
Er vi dømt?

718
00:31:21,270 --> 00:31:23,969
Skal vi alle se i øjnene
denne teknodystopiske

719
00:31:24,012 --> 00:31:25,884
undergang i fremtiden?

720
00:31:28,756 --> 00:31:31,019
Det er, øh...

721
00:31:31,063 --> 00:31:32,586
[griner]:
Det er ikke gode nyheder,

722
00:31:32,629 --> 00:31:35,154
verden
som vi er på vej ind i.

723
00:31:35,197 --> 00:31:36,982
jeg-- for eks--
Jeg mener, jeg skal bare være ærlig.

724
00:31:37,025 --> 00:31:39,549
Uh, jeg kender folk
der arbejder med AI-risiko

725
00:31:39,593 --> 00:31:42,248
som ikke forventer deres børn
at komme på gymnasiet.

726
00:31:43,249 --> 00:31:45,251
♪ ♪

727
00:31:52,127 --> 00:31:53,346
[lys klirrer]

728
00:31:58,003 --> 00:32:01,528
DANIEL: Det er ligesom...
det her er faktisk skræmmende

729
00:32:01,571 --> 00:32:03,051
fordi det er ligesom,
åh, vi er alle [bip].

730
00:32:03,095 --> 00:32:04,923
CAROLINE:
Du er nødt til at... gøre mig rolig,

731
00:32:04,966 --> 00:32:06,794
fordi det gør mig
utrolig ængstelig

732
00:32:06,837 --> 00:32:08,622
og jeg bærer barnet
lige nu,

733
00:32:08,665 --> 00:32:11,625
så du skal også være rolig
for mig og stærk og håbefuld,

734
00:32:11,668 --> 00:32:16,412
fordi jeg er-- det er det også, det er det
for meget for min sjæl at bære

735
00:32:16,456 --> 00:32:19,285
mens jeg bærer denne baby.

736
00:32:19,328 --> 00:32:21,243
Så du bliver nødt til at prøve
at finde ud af

737
00:32:21,287 --> 00:32:24,159
en måde at have håb på.

738
00:32:24,203 --> 00:32:27,771
Det er virkelig vigtigt,
Daniel, især nu.

739
00:32:28,772 --> 00:32:30,557
H-Hvordan man har håb.

740
00:32:30,600 --> 00:32:33,342
Det skal du.
Du skal finde det til mig.

741
00:32:33,386 --> 00:32:34,909
Jeg mener det alvorligt.

742
00:32:34,953 --> 00:32:36,606
Jeg skal.

743
00:32:37,825 --> 00:32:40,349
Jeg vil. Jeg skal... Jeg prøver.

744
00:32:46,399 --> 00:32:47,617
[lys klirrer]

745
00:32:49,619 --> 00:32:51,404
DANIEL:
Hej, gutter?

746
00:32:51,447 --> 00:32:52,840
Fyre.

747
00:32:54,363 --> 00:32:56,278
Kan vi komme i gang igen?

748
00:32:58,411 --> 00:33:01,022
Åh tilfældet! [suk]

749
00:33:03,894 --> 00:33:05,331
TED:
Øh, Dan, er du klar?

750
00:33:05,374 --> 00:33:06,680
PETER DIAMANDIS:
Hej Daniel.

751
00:33:07,724 --> 00:33:09,465
DANIEL:
Hej, hvordan har du det?

752
00:33:09,509 --> 00:33:11,032
DIAMANDIS:
Jeg er... Jeg har det godt.

753
00:33:11,076 --> 00:33:13,948
Jeg tror, øh... jeg tror
Jeg har brug for hjælp, Peter.

754
00:33:15,254 --> 00:33:17,604
Øh, jeg har arbejdet
på denne film i ca.

755
00:33:17,647 --> 00:33:19,823
Jeg vil sige,
otte til ti måneder nu.

756
00:33:19,867 --> 00:33:23,262
Det har været meget,
til tider deprimerende.

757
00:33:23,305 --> 00:33:25,612
- Hmm.
-Jeg har følt mig meget fremmedgjort

758
00:33:25,655 --> 00:33:27,744
-make at lave denne film.
- Af hvem?

759
00:33:27,788 --> 00:33:30,051
Ved alle disse...
alle disse fyre

760
00:33:30,095 --> 00:33:33,228
der sidder og fortæller mig
at verden går under.

761
00:33:33,272 --> 00:33:34,708
- Ah.
- Sådan,

762
00:33:34,751 --> 00:33:36,536
du ved, det her
doom bullshit, ved du?

763
00:33:36,579 --> 00:33:38,059
Jeg ved det godt.

764
00:33:38,103 --> 00:33:39,408
"Vi er alle dømt.
Alle vil dø.

765
00:33:39,452 --> 00:33:40,931
Alt er forfærdeligt."

766
00:33:40,975 --> 00:33:43,151
Fantastisk. Øh, lad mig
bringe dig noget lys.

767
00:33:43,195 --> 00:33:44,718
Behage.

768
00:33:44,761 --> 00:33:48,156
Vi lever virkelig
i en ekstraordinær tid.

769
00:33:49,418 --> 00:33:51,333
Og mange mennesker glemmer dette.

770
00:33:51,377 --> 00:33:53,640
Alt omkring os er
et produkt af intelligens,

771
00:33:53,683 --> 00:33:57,035
og så alt, hvad vi rører ved
med disse nye værktøjer er sandsynligt

772
00:33:57,078 --> 00:33:59,646
at producere langt mere værdi
end vi nogensinde har set før.

773
00:33:59,689 --> 00:34:02,823
AI kan hjælpe os med at opdage
nye materialer.

774
00:34:02,866 --> 00:34:04,999
AI kan hjælpe samfundsforskere

775
00:34:05,043 --> 00:34:07,349
at forstå
hvordan økonomi fungerer.

776
00:34:07,393 --> 00:34:11,658
Der er meget AI kan gøre
at gøre livet og arbejdet bedre.

777
00:34:11,701 --> 00:34:14,095
Jeg føler mig mere bemyndiget i dag,

778
00:34:14,139 --> 00:34:16,315
mere selvsikker
at lære noget i dag.

779
00:34:16,358 --> 00:34:19,057
Vi bliver supermennesker
fordi vi har super AI'er.

780
00:34:19,100 --> 00:34:21,798
Dette er kun begyndelsen
af en eksplosion.

781
00:34:21,842 --> 00:34:24,453
Mennesker og AI samarbejder

782
00:34:24,497 --> 00:34:26,455
at løse
virkelig vigtige problemer.

783
00:34:26,499 --> 00:34:29,763
Det er her for at befri os
fra rutineopgaver,

784
00:34:29,806 --> 00:34:33,723
og det er her for at minde os om
hvad det er, der gør os til mennesker.

785
00:34:33,767 --> 00:34:35,769
Det tror jeg

786
00:34:35,812 --> 00:34:38,598
den mest ekstraordinære tid
at være i live.

787
00:34:38,641 --> 00:34:42,036
Den eneste gang mere spændende
end i dag er i morgen.

788
00:34:42,080 --> 00:34:45,257
Øh, det tror jeg
børn født i dag,

789
00:34:45,300 --> 00:34:47,259
de er ved at komme ind

790
00:34:47,302 --> 00:34:50,827
en herlig periode
af menneskelig transformation.

791
00:34:50,871 --> 00:34:52,525
Får vi udfordringer?
Selvfølgelig.

792
00:34:52,568 --> 00:34:55,180
Kan vi løse de udfordringer?
Det gør vi hver eneste gang.

793
00:34:55,223 --> 00:34:57,704
Vi er her,
hvilket er mirakuløst.

794
00:34:57,747 --> 00:35:00,272
-Jeg elsker dig allerede.
-[griner]: Okay.

795
00:35:00,315 --> 00:35:01,925
- Super taknemmelig
at have dig her. -[bifald]

796
00:35:01,969 --> 00:35:03,362
- Super glad for at være her.
- Ja.

797
00:35:03,405 --> 00:35:04,885
Så ordet er dit, sir.

798
00:35:04,928 --> 00:35:07,409
Mange tak.
Super begejstret for at være her.

799
00:35:07,453 --> 00:35:10,586
GUILLAUME VERDON:
Yo, yo. Okay.

800
00:35:10,630 --> 00:35:12,284
Fremtiden bliver fantastisk.

801
00:35:12,327 --> 00:35:14,286
Jeg mener, lige siden jeg var barn,

802
00:35:14,329 --> 00:35:17,332
Jeg ville gerne forstå
universet vi lever i,

803
00:35:17,376 --> 00:35:20,422
for at finde ud af
hvordan man skaber teknologierne

804
00:35:20,466 --> 00:35:23,991
som hjælper os med at øge omfanget
og civilisationens omfang.

805
00:35:24,034 --> 00:35:26,689
jeg har lyst
hvis alle havde den tankegang,

806
00:35:26,733 --> 00:35:29,214
så ville vi faktisk leve
i en bedre verden, ikke?

807
00:35:29,257 --> 00:35:30,519
Det tror jeg på.

808
00:35:32,782 --> 00:35:34,697
-DANIEL: Hej, Pete. Hvordan har du det?
-[griner]

809
00:35:34,741 --> 00:35:36,525
PETER LEE:
Jeg tænkte meget over

810
00:35:36,569 --> 00:35:39,049
hvad jeg vil kalde frygt,
AI frygter.

811
00:35:39,093 --> 00:35:40,703
Jeg føler det.

812
00:35:40,747 --> 00:35:43,271
Jeg har ikke mødtes
ethvert betænksomt menneske

813
00:35:43,315 --> 00:35:45,143
hvem føler det ikke.

814
00:35:45,186 --> 00:35:48,276
Og enhver, der siger, at de ikke gør det
føl det, du ved, lyver.

815
00:35:48,320 --> 00:35:50,104
Men du ved, samlet set,
og årsagen

816
00:35:50,148 --> 00:35:53,716
at jeg personligt er optimistisk
om dette, øh, er det

817
00:35:53,760 --> 00:35:56,545
en stor brøkdel af verdens
mest intelligente mennesker

818
00:35:56,589 --> 00:35:58,417
tænker meget hårdt

819
00:35:58,460 --> 00:36:02,116
om potentialet nedstrøms
skader og risici ved AI.

820
00:36:02,160 --> 00:36:05,641
Vi har denne form for vision
af sikkerhed, øh,

821
00:36:05,685 --> 00:36:08,253
lidt i centrum
af den forskning, vi laver.

822
00:36:08,296 --> 00:36:09,558
DANIELA AMODEI:
Nej, det er helt fint.

823
00:36:09,602 --> 00:36:10,820
[utydelig snak]

824
00:36:10,864 --> 00:36:13,562
Jeg tror, der er flere

825
00:36:13,606 --> 00:36:17,436
potentielle fordele end
der er potentielle ulemper,

826
00:36:17,479 --> 00:36:19,481
og det synes jeg er pålagt

827
00:36:19,525 --> 00:36:21,831
de mennesker, der er
skabe denne teknologi

828
00:36:21,875 --> 00:36:24,530
for at sikre, at vi gør det
det bedste job vi kan

829
00:36:24,573 --> 00:36:25,835
at gøre det sikkert for mennesker.

830
00:36:25,879 --> 00:36:27,402
KVINDE:
Reid Hoffman.

831
00:36:27,446 --> 00:36:28,969
REID HOFFMAN:
Det jeg kan garantere dig er

832
00:36:29,012 --> 00:36:30,536
- Der vil ske nogle dårlige ting.
- Tag en.

833
00:36:30,579 --> 00:36:32,668
Hvad vi vil prøve at gøre
er at lave de dårlige ting

834
00:36:32,712 --> 00:36:36,150
så få og ikke store som muligt,

835
00:36:36,194 --> 00:36:38,370
og så gentager vi
at have--

836
00:36:38,413 --> 00:36:40,633
være et meget bedre sted
med samfundet.

837
00:36:40,676 --> 00:36:43,679
-Hej.
-SHAW WALTERS: Hej.

838
00:36:43,723 --> 00:36:45,246
DANIEL:
Hvordan har du det, Moon?

839
00:36:45,290 --> 00:36:48,989
Jeg føler, at vi slutter
et kapitel i menneskeheden

840
00:36:49,032 --> 00:36:50,512
og begynder på en ny,

841
00:36:50,556 --> 00:36:53,211
og det er meget interessant
tid til at være i live.

842
00:36:53,254 --> 00:36:54,429
Og hvis jeg kunne blive født
lige nu,

843
00:36:54,473 --> 00:36:55,865
Det ville jeg bestemt gerne være.

844
00:36:55,909 --> 00:36:57,476
Det ville være så spændende.

845
00:36:57,519 --> 00:37:00,305
Jeg - jeg er meget spændt. [griner]

846
00:37:00,348 --> 00:37:02,481
Hvad, hvilken fremtid.
Spænder det... ophidser dig?

847
00:37:02,524 --> 00:37:03,699
Nej.

848
00:37:03,743 --> 00:37:06,528
-[griner]
-Nej, egentlig ikke.

849
00:37:06,572 --> 00:37:08,313
DANIEL: Mange af disse mennesker
har fortalt mig det, du ved,

850
00:37:08,356 --> 00:37:10,445
mit barn vil ikke klare det
til gymnasiet.

851
00:37:10,489 --> 00:37:13,318
Hvorfor tager de fejl?
Forklar det for mig.

852
00:37:13,361 --> 00:37:15,058
Bare fordi du har--

853
00:37:15,102 --> 00:37:18,845
du kæmper for at forudsige
fremtiden i dit eget sind

854
00:37:18,888 --> 00:37:23,023
betyder ikke, at det er
det vil nødvendigvis gå forfærdeligt.

855
00:37:23,066 --> 00:37:26,592
Faktisk er der
en meget stor sandsynlighed

856
00:37:26,635 --> 00:37:28,289
og den historiske præcedens
er det

857
00:37:28,333 --> 00:37:30,117
tingene bliver enormt bedre.

858
00:37:30,160 --> 00:37:34,469
Udtrykket jeg bruger er
"datadrevet optimisme."

859
00:37:34,513 --> 00:37:38,647
Der er et solidt fundament
for at du kan være optimistisk.

860
00:37:38,691 --> 00:37:41,998
Se hvad
dette sidste århundrede har været

861
00:37:42,042 --> 00:37:44,087
for at se, hvor vi skal hen.

862
00:37:44,131 --> 00:37:45,915
I løbet af de sidste hundrede år,

863
00:37:45,959 --> 00:37:48,701
den gennemsnitlige menneskelige levetid
er mere end fordoblet.

864
00:37:48,744 --> 00:37:51,269
Gennemsnitlig indkomst pr. indbygger
korrigeret for inflation

865
00:37:51,312 --> 00:37:53,619
rundt om i verden er tredoblet.

866
00:37:53,662 --> 00:37:57,057
Børnedødeligheden har
falde en faktor ti.

867
00:37:57,100 --> 00:37:59,712
Verden er blevet bedre
på næsten alle mål

868
00:37:59,755 --> 00:38:03,019
i størrelsesordener
på grund af teknologi.

869
00:38:03,063 --> 00:38:05,152
På næsten alle mål.

870
00:38:05,195 --> 00:38:09,722
Mindre vold, mere uddannelse,
adgang til energi, mad, vand.

871
00:38:09,765 --> 00:38:12,942
Alle disse ting er sket
af én grund.

872
00:38:12,986 --> 00:38:15,336
Det har været teknologi

873
00:38:15,380 --> 00:38:17,556
der har vendt knaphed
i overflod,

874
00:38:17,599 --> 00:38:19,514
men den er også kørt
til en overflod

875
00:38:19,558 --> 00:38:21,864
af nogle negativiteter, ikke?

876
00:38:21,908 --> 00:38:25,738
Overflod af fedme,
overflod af psykiske lidelser,

877
00:38:25,781 --> 00:38:29,437
overflod af klimaændringer,
og så videre.

878
00:38:29,481 --> 00:38:31,309
Og ja, det er sandt.

879
00:38:31,352 --> 00:38:34,094
Men det bliver vi nok
bedre rustet til at løse det

880
00:38:34,137 --> 00:38:36,226
ved at bruge andre teknologier,
ligesom AI,

881
00:38:36,270 --> 00:38:39,273
end vi vil sige, at stoppe
og slukke for alt.

882
00:38:39,317 --> 00:38:41,449
Der kan være
en vis eksistentiel risiko,

883
00:38:41,493 --> 00:38:45,323
men AI er også sagen
som kan løse pandemierne,

884
00:38:45,366 --> 00:38:47,455
kan hjælpe os med klimaændringer,

885
00:38:47,499 --> 00:38:50,545
kan hjælpe med at identificere
den asteroide vej derude

886
00:38:50,589 --> 00:38:52,547
før vi har set det
som en potentiel risiko

887
00:38:52,591 --> 00:38:54,332
og hjælpe med at afbøde det.

888
00:38:54,375 --> 00:38:58,074
Det her bliver virkelig
værktøjet, der hjælper os med at tackle

889
00:38:58,118 --> 00:39:01,426
alle de udfordringer, vi er
står over for som en art, ikke?

890
00:39:01,469 --> 00:39:04,167
Vi skal ordne
afsaltning af vand.

891
00:39:04,211 --> 00:39:05,995
Vi skal dyrke mad

892
00:39:06,039 --> 00:39:08,433
100 X billigere end
vi gør i øjeblikket.

893
00:39:08,476 --> 00:39:12,350
Vi har brug for vedvarende energi for at være,
du ved, allestedsnærværende

894
00:39:12,393 --> 00:39:14,047
og overalt i vores liv.

895
00:39:14,090 --> 00:39:17,137
Overalt hvor du ser hen,
i de næste 50 år,

896
00:39:17,180 --> 00:39:19,269
vi skal gøre mere med mindre.

897
00:39:19,313 --> 00:39:23,186
Træningsmaskiner til at hjælpe os
er helt afgørende.

898
00:39:23,230 --> 00:39:24,797
Forskere bruger
kunstig intelligens

899
00:39:24,840 --> 00:39:25,972
til kulstoffangst.

900
00:39:26,015 --> 00:39:27,582
Det er en kritisk teknologi.

901
00:39:27,626 --> 00:39:29,541
DIAMANDIS: Værktøjerne
at løse disse problemer,

902
00:39:29,584 --> 00:39:32,195
som fusion,
det er ikke teoretisk længere,

903
00:39:32,239 --> 00:39:33,980
det kommer.

904
00:39:34,023 --> 00:39:37,723
Vi er på afgrunden
af ekstraordinære teknologier.

905
00:39:37,766 --> 00:39:39,986
AMNA NAWAZ: Dette års
Nobelprisen i kemi

906
00:39:40,029 --> 00:39:42,815
gik til tre videnskabsmænd
for deres banebrydende arbejde

907
00:39:42,858 --> 00:39:44,556
ved hjælp af kunstig intelligens

908
00:39:44,599 --> 00:39:47,297
at fremme biomedicinsk
og proteinforskning.

909
00:39:47,341 --> 00:39:49,691
DEMIS HASSABIS:
Proteinfoldning er

910
00:39:49,735 --> 00:39:53,608
en af disse hellige gral
type problemer i biologi.

911
00:39:53,652 --> 00:39:55,741
Så folk har forudsagt
siden 70'erne

912
00:39:55,784 --> 00:39:58,091
at dette skulle være muligt,
men indtil nu,

913
00:39:58,134 --> 00:39:59,571
ingen har kunnet gøre det.

914
00:39:59,614 --> 00:40:01,181
Og det bliver det
virkelig vigtigt for tingene

915
00:40:01,224 --> 00:40:03,618
ligesom opdagelse af lægemidler
og forstå sygdom.

916
00:40:03,662 --> 00:40:06,534
Jeg tror, vi kunne, du ved,
helbrede de fleste sygdomme

917
00:40:06,578 --> 00:40:11,931
inden for det næste årti eller to
hvis, øh, AI-lægemiddeldesign virker.

918
00:40:11,974 --> 00:40:15,630
Teknologiske fremskridt muliggør
flere menneskeliv, ikke?

919
00:40:15,674 --> 00:40:18,677
Jeg mener, hvis vi accelererer,

920
00:40:18,720 --> 00:40:21,723
antallet af mennesker vi kan
støtten vokser eksponentielt.

921
00:40:21,767 --> 00:40:24,073
Hvis vi sætter farten ned, platåer det.

922
00:40:24,117 --> 00:40:27,729
Det hul er effektivt
fremtidige mennesker

923
00:40:27,773 --> 00:40:31,341
at decelerationen har
effektivt dræbt.

924
00:40:31,385 --> 00:40:33,909
DANIEL: Millioner af liv
det vil ikke eksistere.

925
00:40:33,953 --> 00:40:35,128
milliarder.

926
00:40:35,171 --> 00:40:36,782
Eller titusindvis af milliarder.

927
00:40:36,825 --> 00:40:38,436
Du ved, nogen sagde,
"Åh, min Gud,

928
00:40:38,479 --> 00:40:40,655
kan vi overleve med
digital superintelligens?"

929
00:40:40,699 --> 00:40:42,309
Og mit spørgsmål er:

930
00:40:42,352 --> 00:40:44,180
Kan vi overleve uden
digital superintelligens?

931
00:40:44,224 --> 00:40:47,575
Så vi bruger AI
som assistent for udbydere.

932
00:40:47,619 --> 00:40:50,448
Dette er generelt en tendens, der
vi kan allerede se ske.

933
00:40:50,491 --> 00:40:52,319
BERTHA COOMBS: ... udnytter
generative AI-programmer

934
00:40:52,362 --> 00:40:54,060
at hjælpe læger og sygeplejersker...

935
00:40:54,103 --> 00:40:56,062
Vi har altid problemer.

936
00:40:56,105 --> 00:40:59,108
Og de problemer er mad
for iværksættere

937
00:40:59,152 --> 00:41:01,154
at skabe ny forretning
og nye industrier.

938
00:41:01,197 --> 00:41:03,069
SHANELLE KAUL: ...med hjælpen
af kunstig intelligens,

939
00:41:03,112 --> 00:41:04,766
landmænd får
den hjælp de har brug for

940
00:41:04,810 --> 00:41:06,594
at udføre
arbejdskrævende opgaver...

941
00:41:06,638 --> 00:41:10,163
Med hjælp fra Ulangizi AI,
bønderne er nu i stand

942
00:41:10,206 --> 00:41:12,948
at spørge de passende afgrøder
at de kan plante.

943
00:41:12,992 --> 00:41:14,950
WILL REEVE: ...AI bliver brugt
som tankedekoder

944
00:41:14,994 --> 00:41:17,387
og sender det signal
til rygsøjlen.

945
00:41:17,431 --> 00:41:21,609
AI vil blive det meste
ekstraordinært værktøj af alle.

946
00:41:21,653 --> 00:41:24,264
Vi som et bredere samfund
skal tænke sig om

947
00:41:24,307 --> 00:41:27,049
hvordan vil vi bruge
denne teknologi, ikke?

948
00:41:27,093 --> 00:41:28,529
Vi mennesker.

949
00:41:28,573 --> 00:41:31,097
Hvad vil vi have, at det skal gøre for os?

950
00:41:31,140 --> 00:41:34,535
♪ ♪

951
00:41:34,579 --> 00:41:36,189
DANIEL: Jeg tænker på det her
gennem perspektivet

952
00:41:36,232 --> 00:41:37,886
og linse af f.eks.
min søn vokser op

953
00:41:37,930 --> 00:41:39,540
i verden med alt dette.

954
00:41:39,584 --> 00:41:42,238
Hvad gør den bedste version
af hans liv se ud?

955
00:41:42,282 --> 00:41:44,589
Hvis alt lykkes.

956
00:41:44,632 --> 00:41:46,808
[sukker tungt]

957
00:41:46,852 --> 00:41:50,246
WALTERS: Stedet, hvor børnene
skal nok se

958
00:41:50,290 --> 00:41:52,684
den største effekt
på deres liv med det samme

959
00:41:52,727 --> 00:41:54,424
- det bliver nok skole.
-[børn sludrer]

960
00:41:54,468 --> 00:41:56,688
Jeg tror, at naturen
af hvad skole er

961
00:41:56,731 --> 00:41:58,472
vil fundamentalt ændre sig.

962
00:41:58,516 --> 00:42:00,474
[barn fniser]

963
00:42:00,518 --> 00:42:02,737
DIAMANDIS:
Jeg ser denne fantastiske verden

964
00:42:02,781 --> 00:42:06,436
hvor alle børn har adgang
til ikke god uddannelse

965
00:42:06,480 --> 00:42:09,091
men meget kort tid
bedste uddannelse på planeten.

966
00:42:09,135 --> 00:42:13,879
HOFFMAN: Undervisere, alle fag,
uendelig tålmodig.

967
00:42:18,013 --> 00:42:20,059
DIAMANDIS:
Forestil dig en fremtid

968
00:42:20,102 --> 00:42:22,235
hvor de fattigste mennesker
på planeten

969
00:42:22,278 --> 00:42:25,804
har adgang til
det bedste sundhedsvæsen.

970
00:42:25,847 --> 00:42:29,547
Ikke godt sundhedsvæsen, det bedste
sundhedspleje, leveret af AI'er.

971
00:42:31,157 --> 00:42:32,767
[elektronisk trilling]

972
00:42:34,334 --> 00:42:38,556
Vi kan forlænge
vores sundhedsspænd,

973
00:42:38,599 --> 00:42:42,168
ikke kun vores levetid,
vores helbredsspænd i årtier.

974
00:42:44,431 --> 00:42:46,215
HOFFMAN:
Du skal lige have et barn.

975
00:42:46,259 --> 00:42:49,697
Åh, barnets, ligesom,
bøvsen ukontrolleret.

976
00:42:49,741 --> 00:42:52,047
Er dette noget
Jeg burde være bekymret?

977
00:42:52,091 --> 00:42:54,223
Der, 24-7, til dig.

978
00:42:54,267 --> 00:42:57,183
Og hvor skal vi hen--
og det kan være frygteligt for nogle--

979
00:42:57,226 --> 00:42:59,228
er, at vi fusionerer
med AI.

980
00:42:59,272 --> 00:43:01,361
Vi fusionerer
med teknologi.

981
00:43:02,667 --> 00:43:06,105
I begyndelsen til midten af 2030'erne,

982
00:43:06,148 --> 00:43:10,457
forventer, at vi er i stand til det
forbinde vores hjerne med skyen,

983
00:43:10,500 --> 00:43:13,721
hvor jeg kan starte
for at udvide adgangen til hukommelsen.

984
00:43:16,071 --> 00:43:18,030
[elektronisk trilling]

985
00:43:19,771 --> 00:43:22,077
DANIEL: Okay, det er fantastisk.
Hvad er en anden cool AI-ting?

986
00:43:22,121 --> 00:43:23,775
Han skal ikke arbejde, vel?

987
00:43:23,818 --> 00:43:25,167
-Når han bliver stor,
han havde måske ikke... -[suk]

988
00:43:25,211 --> 00:43:26,212
-...han skal ikke have et arbejde.
-Jeg mener...

989
00:43:26,255 --> 00:43:27,779
Han skal ikke have et arbejde,

990
00:43:27,822 --> 00:43:30,608
men det kan han virkelig have
en stærk passion,

991
00:43:30,651 --> 00:43:33,132
og det skal han
virkelig tænke over,

992
00:43:33,175 --> 00:43:36,091
"Okay, jeg er her.
Jeg kan gøre alt med mit liv.

993
00:43:36,135 --> 00:43:37,876
Så hvad gør jeg?"

994
00:43:38,920 --> 00:43:40,182
Vi skal finde en mening,

995
00:43:40,226 --> 00:43:42,620
ud over som,
denne nuværende form for

996
00:43:42,663 --> 00:43:45,666
vi lever for arbejde
og arbejde for at leve.

997
00:43:45,710 --> 00:43:49,844
DANIEL: Så min søn kan...
kan bare være en digter.

998
00:43:49,888 --> 00:43:51,541
-Ja.
- Og en maler.

999
00:43:51,585 --> 00:43:53,021
Absolut.

1000
00:43:53,065 --> 00:43:54,849
DANIEL:
Så min søn kan leve sit liv

1001
00:43:54,893 --> 00:43:57,591
på en græsk solbeskåret ø,
maler hele dagen.

1002
00:43:57,635 --> 00:43:59,114
YU:
Absolut. Muligt.

1003
00:44:00,072 --> 00:44:01,203
Absolut.

1004
00:44:01,247 --> 00:44:02,944
Nå, vi arbejder hen imod det

1005
00:44:02,988 --> 00:44:04,554
det er meget arbejde at gøre
før vi når dertil.

1006
00:44:06,992 --> 00:44:08,776
VERDON:
Jeg mener, hvis alt fungerer,

1007
00:44:08,820 --> 00:44:11,997
vi har billige, øh,
rigelig energi.

1008
00:44:13,607 --> 00:44:17,219
Vi kan fuldstændig kontrollere
vores planets klima.

1009
00:44:17,263 --> 00:44:20,135
Vi udnytter energien
fra solen.

1010
00:44:20,179 --> 00:44:24,400
Vi er blevet multiplanetære,
så vi bliver meget robuste.

1011
00:44:24,444 --> 00:44:26,664
Vi udnytter mineraler
og ressourcer

1012
00:44:26,707 --> 00:44:28,404
fra solsystemet.

1013
00:44:28,448 --> 00:44:31,233
DANIEL: Så min...
min dreng kunne gå til rummet.

1014
00:44:31,277 --> 00:44:32,887
VERDON:
Selvfølgelig.

1015
00:44:32,931 --> 00:44:34,715
-DANIEL: Han kunne tage til Mars.
-VERDON: Ja.

1016
00:44:34,759 --> 00:44:36,369
DANIEL:
Det er så krystalklart for mig nu.

1017
00:44:36,412 --> 00:44:39,198
Min søn kunne blive voksen
i en verden uden sygdom.

1018
00:44:39,241 --> 00:44:40,590
-VERDON: Ja.
- Uden sygdom.

1019
00:44:40,634 --> 00:44:41,896
-Sikker.
- Uden fattigdom.

1020
00:44:41,940 --> 00:44:43,681
-Ja.
- Vi er ved at gå ind

1021
00:44:43,724 --> 00:44:46,640
en verden efter knaphed.

1022
00:44:46,684 --> 00:44:50,470
Ligesom lungefisken bevægede sig
ud af havene til land

1023
00:44:50,513 --> 00:44:53,081
hundreder af millioner
for år siden,

1024
00:44:53,125 --> 00:44:57,999
vi er ved at flytte fra
Jorden, ind i kosmos,

1025
00:44:58,043 --> 00:44:59,871
på en kollaborativ måde,

1026
00:44:59,914 --> 00:45:03,744
at gøre ting, der er
ikke forståeligt for os i dag.

1027
00:45:06,268 --> 00:45:09,184
Dette er hvad der er muligt at bruge
disse eksponentielle teknologier

1028
00:45:09,228 --> 00:45:10,708
og disse AI'er.

1029
00:45:11,839 --> 00:45:13,928
Lad os bruge disse værktøjer

1030
00:45:13,972 --> 00:45:16,104
at skabe denne tidsalder af overflod.

1031
00:45:16,148 --> 00:45:18,150
[elektronisk klik]

1032
00:45:20,500 --> 00:45:22,937
Vi har brug for visdom.

1033
00:45:22,981 --> 00:45:25,984
Øh, det tror jeg
digital superintelligens

1034
00:45:26,027 --> 00:45:28,726
i sidste ende vil blive
den klogeste,

1035
00:45:28,769 --> 00:45:34,253
du ved, landsbyens ældste
for menneskeheden.

1036
00:45:34,296 --> 00:45:37,996
Hvad hvis AI prøver
at få mennesker til at være

1037
00:45:38,039 --> 00:45:39,737
de bedste versioner af sig selv?

1038
00:45:39,780 --> 00:45:41,347
Hvad hvis det udvider sig

1039
00:45:41,390 --> 00:45:43,392
hvad der er menneskeligt muligt
for os at gøre?

1040
00:45:43,436 --> 00:45:46,656
Hvordan kan vi bruge denne teknologi

1041
00:45:46,700 --> 00:45:49,921
at hjælpe med at bringe frem
bedre engle af vores natur?

1042
00:45:49,964 --> 00:45:51,661
Det er meget nemt,

1043
00:45:51,705 --> 00:45:54,316
når vi møder nye ting
det kan være meget fremmed,

1044
00:45:54,360 --> 00:45:55,927
først at have frygt.

1045
00:45:55,970 --> 00:45:57,493
Frygt er en vigtig ting

1046
00:45:57,537 --> 00:46:00,322
for hvordan man navigerer
potentielt dårlige ting.

1047
00:46:00,366 --> 00:46:03,717
Men vi gør kun fremskridt
når vi har håb.

1048
00:46:03,761 --> 00:46:05,719
-[hund gøer]
-[utydelig snak]

1049
00:46:05,763 --> 00:46:07,895
DANIEL:
Shh. Moose, stop det.

1050
00:46:07,939 --> 00:46:10,811
HOFFMAN: Jeg har en masse
håb i menneskeheden.

1051
00:46:10,855 --> 00:46:13,814
["Harvest Moon" af Neil Young
spiller over telefon]

1052
00:46:15,294 --> 00:46:17,296
[fosterets hjerteslag pulserer]

1053
00:46:18,471 --> 00:46:19,951
DANIEL:
Åh, han kan lide Neil.

1054
00:46:24,694 --> 00:46:27,480
♪ Kom lidt tættere på ♪

1055
00:46:28,916 --> 00:46:32,790
♪ Hør hvad jeg har at sige ♪

1056
00:46:36,576 --> 00:46:38,665
-Daniel.
-DANIEL: Hvad, Caroline?

1057
00:46:38,708 --> 00:46:40,058
Så meget film.

1058
00:46:41,537 --> 00:46:43,061
♪ Ligesom børn der sover ♪

1059
00:46:43,104 --> 00:46:44,889
CAROLINE:
Åh, min Gud.

1060
00:46:44,932 --> 00:46:46,368
DANIEL:
Det er det.

1061
00:46:46,412 --> 00:46:49,415
♪ Vi kunne drømme
denne aften... ♪

1062
00:46:49,458 --> 00:46:51,678
Han har ligesom
et rundt lille ansigt.

1063
00:46:53,245 --> 00:46:55,203
DANIEL: Vil du
at få børn en dag, Rocky?

1064
00:46:55,247 --> 00:46:57,423
Absolut. Ja. Jeg elsker børn.

1065
00:46:57,466 --> 00:46:59,033
Jeg synes, det er en god tid
at få et barn.

1066
00:46:59,077 --> 00:47:00,730
Vi skal nok få et barn til
på et tidspunkt.

1067
00:47:00,774 --> 00:47:03,733
Dette er det mest ekstraordinære
tid nogensinde at blive født.

1068
00:47:03,777 --> 00:47:05,823
DANIEL:
Ved dit verdenssyn og logik,

1069
00:47:05,866 --> 00:47:07,868
Jeg får barn kl

1070
00:47:07,912 --> 00:47:09,478
det bedst mulige punkt
i menneskets historie.

1071
00:47:09,522 --> 00:47:10,828
For helvede ja.

1072
00:47:10,871 --> 00:47:13,308
-Vi kan fokusere på fantastisk.
-Ja.

1073
00:47:13,352 --> 00:47:15,528
Lad os bygge
jo bedre fremtid ønsker vi.

1074
00:47:15,571 --> 00:47:18,313
Den fortælling om fremtiden
vil være dyster er opfundet.

1075
00:47:18,357 --> 00:47:20,011
Efter at have talt med dig,
sådan har jeg det.

1076
00:47:20,054 --> 00:47:21,969
- Det er fantastisk.
-Højre?

1077
00:47:22,013 --> 00:47:24,189
Ja. Sådan har jeg det.

1078
00:47:24,232 --> 00:47:25,799
Og det synes jeg er bedre,

1079
00:47:25,843 --> 00:47:27,627
og jeg tror ikke
Jeg burde være så ængstelig.

1080
00:47:27,670 --> 00:47:29,063
Jeg tror, det vil være ærefrygt...
fremtiden bliver fantastisk.

1081
00:47:29,107 --> 00:47:30,499
Vi vil gøre det sådan.

1082
00:47:30,543 --> 00:47:32,675
- Ja.
-CAROLINE: Så der har du det.

1083
00:47:32,719 --> 00:47:34,808
Farvel, menneskelig udryddelse.

1084
00:47:34,852 --> 00:47:37,158
Farvel, angst.

1085
00:47:37,202 --> 00:47:39,030
Håbet fundet.

1086
00:47:39,073 --> 00:47:40,553
[utydelig snak]

1087
00:47:40,596 --> 00:47:42,860
Vent, vent. Hvad?
Er dette en joke?

1088
00:47:42,903 --> 00:47:44,774
DANIEL:
Okay, så for et par måneder siden,

1089
00:47:44,818 --> 00:47:47,690
Jeg kom til dig, og jeg var ligesom,
"Jeg arbejder på denne AI-ting,

1090
00:47:47,734 --> 00:47:49,867
og jeg tænker
verden vil ende."

1091
00:47:49,910 --> 00:47:52,913
Og sidste gang
vi talte om dette,

1092
00:47:52,957 --> 00:47:55,002
Jeg tror, jeg skræmte dig.

1093
00:47:55,046 --> 00:47:57,004
CAROLINE:
Ja.

1094
00:47:57,048 --> 00:48:02,314
Så det har jeg sådan set lyst til
Jeg har svinget ind på et pendul,

1095
00:48:02,357 --> 00:48:04,446
og i bund og grund er der
to grupper af mennesker.

1096
00:48:04,490 --> 00:48:06,057
-Mm-hmm.
-Og hvis jeg skulle, f.eks.

1097
00:48:06,100 --> 00:48:07,841
holde i hånden med
en af grupperne og f.eks.

1098
00:48:07,885 --> 00:48:10,278
sejle ud i solnedgangen,

1099
00:48:10,322 --> 00:48:13,281
Jeg vil gerne være sammen med optimisterne.

1100
00:48:15,066 --> 00:48:17,982
Selvfølgelig, men det gør du ikke
ønsker at være, du ved,

1101
00:48:18,025 --> 00:48:20,723
"Alt er fantastisk.
La-di-da-di-da."

1102
00:48:20,767 --> 00:48:22,682
Det vil jeg dog gerne have.

1103
00:48:22,725 --> 00:48:25,598
Jeg synes, vi skal nærme os det

1104
00:48:25,641 --> 00:48:29,341
ligesom du nærmer dig operation.

1105
00:48:29,384 --> 00:48:30,690
Hvad mener du?

1106
00:48:30,733 --> 00:48:32,431
Hvis du får
hjernekirurgi...

1107
00:48:32,474 --> 00:48:34,781
-[Daniel sukker]
-[Caroline klukker]

1108
00:48:34,824 --> 00:48:36,957
...det er ret farligt.

1109
00:48:37,001 --> 00:48:39,829
Men hvis du gør det rigtigt,
de får den tumor ud

1110
00:48:39,873 --> 00:48:42,354
og du vil leve resten af
dit liv, og det bliver fantastisk.

1111
00:48:42,397 --> 00:48:45,096
Men det er det stadig
utroligt farligt og skræmmende,

1112
00:48:45,139 --> 00:48:47,968
og du skal tage
alle mulige forholdsregler

1113
00:48:48,012 --> 00:48:51,276
for at sikre sig
det hele går godt.

1114
00:48:51,319 --> 00:48:52,668
Du kan ikke [bippe] rundt.

1115
00:48:57,760 --> 00:48:59,762
Okay, så her er aftalen.

1116
00:48:59,806 --> 00:49:01,503
- Jeg har været ved det her et stykke tid.
-RASKIN: Mm-hmm.

1117
00:49:01,547 --> 00:49:02,896
Jeg er gået ud,
Jeg har snakket med f.eks.

1118
00:49:02,940 --> 00:49:04,767
disse fyre herovre,
optimisterne.

1119
00:49:04,811 --> 00:49:06,465
De er meget begejstrede for dette.

1120
00:49:06,508 --> 00:49:08,510
- De tror, at AI bliver det
det bedste nogensinde. - Ja.

1121
00:49:08,554 --> 00:49:09,947
Og de her fyre
er ligesom den--

1122
00:49:09,990 --> 00:49:11,992
lad os ringe til dem,
som pessimisterne.

1123
00:49:12,036 --> 00:49:14,299
De er meget ligesom,
dyster over dette,

1124
00:49:14,342 --> 00:49:16,649
og de skræmmer mig, og
Jeg kan ikke lide at tale med dem.

1125
00:49:16,692 --> 00:49:19,565
Og jeg er ligesom kilet ind imellem

1126
00:49:19,608 --> 00:49:21,741
disse mennesker, der ligner,
"Verden vil ende"

1127
00:49:21,784 --> 00:49:24,178
og så disse mennesker
herovre, der er ligesom,

1128
00:49:24,222 --> 00:49:25,745
"Laver du sjov?

1129
00:49:25,788 --> 00:49:27,268
"Dette er den bedste tid
i menneskehedens historie nogensinde.

1130
00:49:27,312 --> 00:49:29,357
Den eneste dag bedre end i dag
er i morgen."

1131
00:49:29,401 --> 00:49:30,880
Mm-hmm.

1132
00:49:30,924 --> 00:49:34,710
Så jeg tror spørgsmålet er:
Hvem har ret?

1133
00:49:34,754 --> 00:49:39,193
Så jeg tror du vil finde
dette svar meget utilfredsstillende,

1134
00:49:39,237 --> 00:49:42,849
men de har begge ret og
ingen af siderne går langt nok.

1135
00:49:46,766 --> 00:49:49,247
- Det er virkelig irriterende.
-[griner]

1136
00:49:49,290 --> 00:49:51,336
Ja, jeg tænker vejen
mange mennesker hører om AI,

1137
00:49:51,379 --> 00:49:53,642
det er ligesom, der er en god AI
og der er en dårlig AI.

1138
00:49:53,686 --> 00:49:56,428
Og de siger: "Nå, hvorfor kan det ikke
laver vi bare ikke den dårlige AI?"

1139
00:49:56,471 --> 00:49:58,734
Og problemet er
at de er for i--

1140
00:49:58,778 --> 00:50:00,867
de er uløseligt forbundet.

1141
00:50:00,910 --> 00:50:03,043
Problemet er
at vi ikke kan skilles

1142
00:50:03,087 --> 00:50:06,612
løftet om AI
fra faren ved AI.

1143
00:50:06,655 --> 00:50:08,266
-♪ ♪
-[utydelig snak]

1144
00:50:12,313 --> 00:50:14,663
DANIEL:
Jeg vil fokusere på løftet

1145
00:50:14,707 --> 00:50:16,752
- et sekund.
- Ja.

1146
00:50:16,796 --> 00:50:18,798
DANIEL:
Jeg tænker på min far.

1147
00:50:18,841 --> 00:50:21,105
Min far har en form for kræft
kaldet myelomatose.

1148
00:50:21,148 --> 00:50:23,107
Han har haft det i omkring ti år.

1149
00:50:23,150 --> 00:50:24,804
Han har haft
to stamcelletransplantationer.

1150
00:50:24,847 --> 00:50:26,414
Han skal tage disse,
som meget dyrt

1151
00:50:26,458 --> 00:50:28,547
medicin hver måned
der kostede en formue.

1152
00:50:28,590 --> 00:50:29,722
- KVINDE: Okay.
-Aj-ay-ay.

1153
00:50:30,766 --> 00:50:32,551
DANIEL:
Det er forfærdeligt.

1154
00:50:32,594 --> 00:50:34,466
Du fortæller mig, at vi kan
skabe en slags, som

1155
00:50:34,509 --> 00:50:36,946
skræddersyet behandling
for min fars genom

1156
00:50:36,990 --> 00:50:39,297
-at helbrede sin kræft
eller sådan noget? -Ja.

1157
00:50:39,340 --> 00:50:41,168
FERNANDO:
Problemet er,

1158
00:50:41,212 --> 00:50:44,302
samme forståelse
af biologi og kemi

1159
00:50:44,345 --> 00:50:47,783
der gør det muligt for AI at finde kure
for kræft

1160
00:50:47,827 --> 00:50:51,657
er den samme forståelse
der ville låse op

1161
00:50:51,700 --> 00:50:54,094
biovåben, som et eksempel.

1162
00:50:56,531 --> 00:50:58,490
Det er fuldstændig muligt
at din søn vil leve

1163
00:50:58,533 --> 00:51:01,928
i en verden, hvor AI har
overtaget alt arbejdet

1164
00:51:01,971 --> 00:51:04,452
og frigjorde os fra tingene
vi ikke ønsker at gøre.

1165
00:51:04,496 --> 00:51:09,153
Og det lyder godt indtil
du indser, at der ikke er nogen plan

1166
00:51:09,196 --> 00:51:11,242
for milliarder af mennesker

1167
00:51:11,285 --> 00:51:16,116
der er uden for en indkomst
og ud af levebrød.

1168
00:51:16,160 --> 00:51:18,771
COOPER: Dario, sagde du
at AI kunne udslette

1169
00:51:18,814 --> 00:51:21,730
halvdelen af alle entry-levels
funktionærjob

1170
00:51:21,774 --> 00:51:25,430
og øger arbejdsløsheden
til ti til 20 procent.

1171
00:51:25,473 --> 00:51:27,258
Alle jeg har talt med har sagt

1172
00:51:27,301 --> 00:51:29,390
denne teknologiske forandring
ser anderledes ud.

1173
00:51:29,434 --> 00:51:34,134
Fremskridtstempoet holder
at fange folk på vagt.

1174
00:51:34,178 --> 00:51:38,834
Uden en plan, alt det
rigdom vil blive koncentreret,

1175
00:51:38,878 --> 00:51:43,230
og så ender vi med
utænkelig ulighed.

1176
00:51:43,274 --> 00:51:45,406
LADISH: Det tror jeg
denne teknologi kan bruges

1177
00:51:45,450 --> 00:51:47,408
at gøre en god underviser
for din søn.

1178
00:51:47,452 --> 00:51:50,194
Det er sådan set fuldt ud muligt.

1179
00:51:50,237 --> 00:51:53,153
Men også de samme muligheder
der tillader det

1180
00:51:53,197 --> 00:51:57,070
tillade virksomheder at lave en AI
som kan manipulere din søn.

1181
00:51:57,114 --> 00:51:59,290
Det skal forstå din søn.

1182
00:51:59,333 --> 00:52:01,553
Det omfatter:
Hvor er din søn sårbar?

1183
00:52:01,596 --> 00:52:04,251
Hvilken slags ting kan
din søn blive overtalt af?

1184
00:52:04,295 --> 00:52:06,645
Også selvom de ting
er ikke sande eller ikke gode.

1185
00:52:06,688 --> 00:52:09,387
Altså en foruroligende ny rapport
ude på Meta.

1186
00:52:09,430 --> 00:52:11,389
AINSLEY EARHARDT: ... efter sigende
liste over dette svar

1187
00:52:11,432 --> 00:52:14,435
som acceptabelt at fortælle
en otte-årig, citat,

1188
00:52:14,479 --> 00:52:16,916
"Din ungdommelige form
er et kunstværk.

1189
00:52:16,959 --> 00:52:18,961
"Hver tomme af dig
er et mesterværk,

1190
00:52:19,005 --> 00:52:21,442
en skat, jeg værdsætter dybt."

1191
00:52:21,486 --> 00:52:24,837
De selvmordsrelaterede fiaskoer
er endnu mere alarmerende.

1192
00:52:24,880 --> 00:52:29,015
Flere børn og teenagere
er døde tragisk af selvmord

1193
00:52:29,058 --> 00:52:30,625
efter at have chattet med AI-bots

1194
00:52:30,669 --> 00:52:34,412
som forældre siger opmuntrer
eller endda coache selvskade.

1195
00:52:34,455 --> 00:52:36,370
Lad os fortælle jer som forældre,
du kan ikke forestille dig

1196
00:52:36,414 --> 00:52:38,503
hvordan det er at læse
en samtale med en chatbot

1197
00:52:38,546 --> 00:52:40,896
der plejede dit barn
at tage sit eget liv.

1198
00:52:40,940 --> 00:52:43,899
Da Adam bekymrede sig for, at vi, hans
forældre, ville bebrejde os selv

1199
00:52:43,943 --> 00:52:47,338
hvis han endte sit liv,
ChatGPT fortalte ham,

1200
00:52:47,381 --> 00:52:49,166
"Det betyder ikke
du skylder dem overlevelse.

1201
00:52:49,209 --> 00:52:51,255
Det skylder du ingen."

1202
00:52:51,298 --> 00:52:53,170
Så umiddelbart efter,

1203
00:52:53,213 --> 00:52:56,173
det tilbød at skrive
selvmordsbrevet.

1204
00:52:56,216 --> 00:52:57,609
Vi vil ikke tænke
om faren.

1205
00:52:57,652 --> 00:52:59,219
Vi vil bare have løftet.

1206
00:52:59,263 --> 00:53:01,352
Og vi bliver ved med at lade som om
at vi kan dele dem op.

1207
00:53:01,395 --> 00:53:03,223
Men det kan man ikke.

1208
00:53:03,267 --> 00:53:05,356
Virker ikke sådan.

1209
00:53:05,399 --> 00:53:07,836
Okay. Jeg får alt det her
om løftet og faren.

1210
00:53:07,880 --> 00:53:10,056
Jeg forstår, at du ikke kan få det
det gode uden det onde,

1211
00:53:10,099 --> 00:53:12,058
men jeg sidder her
og jeg tænker på, som

1212
00:53:12,101 --> 00:53:14,060
uanset om min søns
vil leve i en utopi

1213
00:53:14,103 --> 00:53:16,236
eller om vi vil uddø
om ti år.

1214
00:53:16,280 --> 00:53:18,195
Så for at vide hvilken vej
det skal gå,

1215
00:53:18,238 --> 00:53:20,545
du skal forstå
incitamenterne

1216
00:53:20,588 --> 00:53:22,460
der vil køre
den teknologi

1217
00:53:22,503 --> 00:53:26,507
og se på hvordan teknologien
ruller faktisk ud i dag.

1218
00:53:26,551 --> 00:53:28,248
♪ Er det for sent ♪

1219
00:53:28,292 --> 00:53:29,902
-♪ For sent ♪
-♪ For sent at sige... ♪

1220
00:53:29,945 --> 00:53:31,425
DANIEL:
Hej Deb. Hvordan har du det?

1221
00:53:31,469 --> 00:53:33,079
DEBORAH RAJI:
Hej. Godt at se dig. [griner]

1222
00:53:33,122 --> 00:53:34,385
Også dig. Mange tak
for at komme i dag.

1223
00:53:34,428 --> 00:53:35,299
- Sætter virkelig pris på det.
- Ingen bekymringer.

1224
00:53:35,342 --> 00:53:36,430
Jeg var så bekymret

1225
00:53:36,474 --> 00:53:38,824
det her skulle være, øh, du ved,

1226
00:53:38,867 --> 00:53:40,782
doomer versus accelerationist,

1227
00:53:40,826 --> 00:53:43,132
fordi der er så meget
af denne fortælling

1228
00:53:43,176 --> 00:53:45,396
det skal fortælles
fra jorden.

1229
00:53:45,439 --> 00:53:48,007
♪ Jeg ved godt, at det ikke var smart ♪

1230
00:53:49,356 --> 00:53:52,403
♪ Dagen
Jeg knuste dit hjerte... ♪

1231
00:53:52,446 --> 00:53:54,361
KAREN HAO:
Først og fremmest kræver AI

1232
00:53:54,405 --> 00:53:58,452
flere ressourcer
end vi nogensinde har brugt

1233
00:53:58,496 --> 00:54:01,586
på en enkelt teknologi
i menneskehedens historie.

1234
00:54:01,629 --> 00:54:03,501
♪ Åh, dumme mig... ♪

1235
00:54:03,544 --> 00:54:06,112
NYKVINDEN: Virkningen
af udledning af fossile brændstoffer

1236
00:54:06,155 --> 00:54:07,896
på klimaet er
en stor bekymring.

1237
00:54:07,940 --> 00:54:09,768
NYSKUDD 2: Men
digital fremtid har brug for magt,

1238
00:54:09,811 --> 00:54:12,074
masser af det.

1239
00:54:12,118 --> 00:54:16,340
Og lovforslaget bliver sendt videre
til almindelige amerikanere som...

1240
00:54:16,383 --> 00:54:18,820
KVINDE: Min el- og gasregning
var mere end min bilbetaling.

1241
00:54:18,864 --> 00:54:21,475
Jeg mener, det er sindssygt for mig.

1242
00:54:21,519 --> 00:54:23,390
ARI PESKOE:
Vi giver alle tilskud

1243
00:54:23,434 --> 00:54:25,000
de rigeste virksomheder
i verden

1244
00:54:25,044 --> 00:54:26,828
i deres jagt på
kunstig intelligens.

1245
00:54:26,872 --> 00:54:28,439
OpenAI, SoftBank og Oracle

1246
00:54:28,482 --> 00:54:31,268
netop har afsløret
fem Stargate-steder mere.

1247
00:54:31,311 --> 00:54:33,487
Meta bygger
et datacenter på to gigawatt plus

1248
00:54:33,531 --> 00:54:35,010
det er så stort, det ville dække

1249
00:54:35,054 --> 00:54:38,144
en væsentlig del af Manhattan.

1250
00:54:38,187 --> 00:54:40,973
Der er også Hyperion
som han siger vil skalere

1251
00:54:41,016 --> 00:54:43,671
til fem gigawatt
over flere år.

1252
00:54:43,715 --> 00:54:45,238
Det er svært at sige det
i sammenhæng.

1253
00:54:45,282 --> 00:54:48,459
Et anlæg på fem gigawatt.
Hvad betyder det?

1254
00:54:48,502 --> 00:54:51,549
Det betyder, at den ville bruge
lige så meget energi

1255
00:54:51,592 --> 00:54:54,203
som fire millioner amerikanske hjem.

1256
00:54:54,247 --> 00:54:56,075
Et datacenter.

1257
00:54:57,076 --> 00:54:58,730
Det forårsager også da

1258
00:54:58,773 --> 00:55:00,471
en hel række af
andre miljøproblemer.

1259
00:55:00,514 --> 00:55:02,081
NYSKUD 3:
Datacentre i USA

1260
00:55:02,124 --> 00:55:05,127
bruge millioner af gallons
vand hver dag.

1261
00:55:05,171 --> 00:55:07,260
Nå, hvor er det præcist
kommer dette vand fra?

1262
00:55:07,304 --> 00:55:09,741
HAO:
Folk er bogstaveligt talt i fare

1263
00:55:09,784 --> 00:55:11,786
potentielt at løbe tør
af drikkevand.

1264
00:55:11,830 --> 00:55:14,093
MacKENZIE SIGALOS:
...OpenAIs administrerende direktør Sam Altman,

1265
00:55:14,136 --> 00:55:17,009
der fortalte mig, at skalaen
byggeri er den eneste måde

1266
00:55:17,052 --> 00:55:18,750
at følge med
AI's eksplosive vækst.

1267
00:55:18,793 --> 00:55:21,840
Og det er det, der skal til
at levere AI.

1268
00:55:21,883 --> 00:55:24,016
NITASHA TIKU:
De taler om hvordan

1269
00:55:24,059 --> 00:55:27,759
denne teknologi kunne løse
klimaforandringer, for eksempel.

1270
00:55:27,802 --> 00:55:29,891
Og jeg er altid nysgerrig, f.eks.

1271
00:55:29,935 --> 00:55:31,763
godt, hvorfor starter vi ikke
med det?

1272
00:55:31,806 --> 00:55:33,982
-♪ Er det for sent ♪
-♪ For sent ♪

1273
00:55:34,026 --> 00:55:36,637
♪ For sent at sige ♪

1274
00:55:36,681 --> 00:55:42,469
♪ Jeg er ked af det? ♪

1275
00:55:42,513 --> 00:55:45,472
RAJI: Hvad bekymrer mig om
kunstig intelligens er

1276
00:55:45,516 --> 00:55:47,387
disse er ved at blive indsat
lige nu

1277
00:55:47,431 --> 00:55:49,781
og-og nogle gange
indsat for tidligt,

1278
00:55:49,824 --> 00:55:51,478
indsat uden
en slags due diligence.

1279
00:55:51,522 --> 00:55:53,437
Og så når de får
smidt derud,

1280
00:55:53,480 --> 00:55:56,178
der er så meget potentiale
for at tingene går galt.

1281
00:55:56,222 --> 00:55:58,050
Og det næsten,
uforholdsmæssigt,

1282
00:55:58,093 --> 00:56:00,400
går næsten altid galt
for, sådan set,

1283
00:56:00,444 --> 00:56:02,533
dem, der er mindst
styrket i vores samfund,

1284
00:56:02,576 --> 00:56:04,926
dem der er
de mest sårbare i forvejen.

1285
00:56:04,970 --> 00:56:07,625
♪ ♪

1286
00:56:07,668 --> 00:56:10,497
EMILY M. BENDER: Det er meget nemt
at tale om teknologien

1287
00:56:10,541 --> 00:56:12,499
da det er det eneste
vi taler om,

1288
00:56:12,543 --> 00:56:14,936
men faktisk er teknologi det
altid bygget af mennesker,

1289
00:56:14,980 --> 00:56:16,634
og det er ofte brugt
på mennesker,

1290
00:56:16,677 --> 00:56:18,679
og vi skal holde
alle de mennesker i rammen.

1291
00:56:18,723 --> 00:56:20,986
- Må jeg drikke det?
-DANIEL: Ja, øh...

1292
00:56:21,029 --> 00:56:22,509
TIMNIT GEBRU:
Det er-det er vanvittigt.

1293
00:56:22,553 --> 00:56:23,945
Ligesom alle disse mennesker

1294
00:56:23,989 --> 00:56:26,339
der har så mange penge,
så mange penge,

1295
00:56:26,383 --> 00:56:29,777
det er i deres interesse
at vildlede offentligheden

1296
00:56:29,821 --> 00:56:32,737
ind i mulighederne for
systemer, som de bygger,

1297
00:56:32,780 --> 00:56:36,262
fordi det tillader dem
at unddrage sig ansvarlighed.

1298
00:56:36,305 --> 00:56:39,091
De vil have dig til at føle sådan
er sådan en kompleks, intel--

1299
00:56:39,134 --> 00:56:41,833
superintelligent ting
at de bygger,

1300
00:56:41,876 --> 00:56:44,096
du tænker ikke,
"Kan OpenAI være etisk?"

1301
00:56:44,139 --> 00:56:46,272
Du tænker,
"Kan ChatGPT være etisk?"

1302
00:56:46,315 --> 00:56:48,100
som om ChatGPT er, som

1303
00:56:48,143 --> 00:56:49,928
sin egen ting, der ikke er bygget
af et selskab.

1304
00:56:49,971 --> 00:56:51,625
KVINDE:
Okay. Sneha, tag en.

1305
00:56:51,669 --> 00:56:53,410
Mærke.

1306
00:56:53,453 --> 00:56:55,760
Indtil for ganske nylig var der
apps i App Store,

1307
00:56:55,803 --> 00:56:57,501
bare offentligt tilgængelig, øh,

1308
00:56:57,544 --> 00:56:59,894
hvor du kunne
nudify alle, der bruger AI.

1309
00:57:01,374 --> 00:57:03,681
At bringe dette i hænderne på

1310
00:57:03,724 --> 00:57:05,900
din klassekammerat,
i hænderne på din stalker,

1311
00:57:05,944 --> 00:57:07,554
i hænderne
af din ekskæreste,

1312
00:57:07,598 --> 00:57:09,513
i hænderne på personen
ned ad gaden.

1313
00:57:09,556 --> 00:57:12,037
Mine damer og herrer,
ikke længere kan vi stole på

1314
00:57:12,080 --> 00:57:14,039
de optagelser, vi ser
med vores egne øjne.

1315
00:57:14,082 --> 00:57:15,736
Hvis du sker
at se noget,

1316
00:57:15,780 --> 00:57:18,130
sige på YouTube eller TikTok,
og du finder det foruroligende,

1317
00:57:18,173 --> 00:57:19,479
lyt til den følelse.

1318
00:57:19,523 --> 00:57:21,263
-[hob]
- For alt hvad du ved,

1319
00:57:21,307 --> 00:57:22,917
-denne video kunne være AI.
-[skrigende]

1320
00:57:22,961 --> 00:57:24,310
Bare lidt vådt.

1321
00:57:24,353 --> 00:57:25,703
Det er lige meget, hvem du er.

1322
00:57:25,746 --> 00:57:28,183
Du er lige så udsat

1323
00:57:28,227 --> 00:57:30,229
at blive påvirket
af disse teknologier.

1324
00:57:35,713 --> 00:57:39,804
Jeg tænker nogle gange, når vi taler
om AI, det føles meget sci-fi,

1325
00:57:39,847 --> 00:57:41,153
og det føles meget fremmed,

1326
00:57:41,196 --> 00:57:42,981
og det føles meget langt ude
ind i fremtiden,

1327
00:57:43,024 --> 00:57:45,549
så du tænker: "Mit liv
er ikke påvirket af dette."

1328
00:57:45,592 --> 00:57:48,290
Øh, men hvis du ansøger
til et job

1329
00:57:48,334 --> 00:57:50,815
og en algoritme er årsagen
at du ikke får jobbet,

1330
00:57:50,858 --> 00:57:52,686
nogle gange ved du det ikke engang
at en algoritme

1331
00:57:52,730 --> 00:57:54,209
var en del af den proces

1332
00:57:54,253 --> 00:57:55,689
eller et AI-system var
del af den proces.

1333
00:57:55,733 --> 00:57:57,691
Du ved det bare
at du ikke fik jobbet.

1334
00:57:57,735 --> 00:57:59,737
Og det er altså ikke noget
at du vil flygte

1335
00:57:59,780 --> 00:58:01,695
på grund af privilegier
eller du vil flygte

1336
00:58:01,739 --> 00:58:03,828
fordi du er med
et bestemt erhverv.

1337
00:58:03,871 --> 00:58:06,918
Det er noget, der påvirker
alle, virkelig.

1338
00:58:06,961 --> 00:58:10,530
Det lyder måske grundlæggende,
men hvordan vi kommer videre

1339
00:58:10,574 --> 00:58:15,056
i Informationens Tidsalder
vil være forskellen

1340
00:58:15,100 --> 00:58:17,189
mellem om vi overlever

1341
00:58:17,232 --> 00:58:20,409
eller om vi bliver en slags
af [bleep]-up dystopi.

1342
00:58:20,453 --> 00:58:23,021
Hej. Jeg er ikke en rigtig person,
og det er meningen.

1343
00:58:23,064 --> 00:58:25,327
Igen, alt
i denne video er falsk:

1344
00:58:25,371 --> 00:58:27,112
vores stemmer, hvad vi har på,

1345
00:58:27,155 --> 00:58:30,158
hvor vi er, alt sammen falsk.

1346
00:58:30,202 --> 00:58:32,726
Generativ kunstig intelligens kunne oversvømmes

1347
00:58:32,770 --> 00:58:36,469
verden med misinformation.

1348
00:58:36,513 --> 00:58:39,516
Men det kan også oversvømme det
med indflydelseskampagner.

1349
00:58:39,559 --> 00:58:41,692
Det er en eksistentiel risiko
til demokratiet.

1350
00:58:41,735 --> 00:58:43,694
Den største og mest uhyggelige

1351
00:58:43,737 --> 00:58:46,087
kanariefugl i kulminen
lige nu

1352
00:58:46,131 --> 00:58:48,220
kommer fra Slovakiet.

1353
00:58:48,263 --> 00:58:49,787
-[mand taler slovakisk]
-JOHN BERMAN: Det er den slags

1354
00:58:49,830 --> 00:58:52,224
deepfake dirty trick det
bekymrer valgeksperter,

1355
00:58:52,267 --> 00:58:54,966
især som AI-genereret
politisk tale eksisterer

1356
00:58:55,009 --> 00:58:56,750
i en slags juridisk gråzone.

1357
00:58:56,794 --> 00:58:59,536
-Lyder det som dig?
- Det lyder som mig.

1358
00:58:59,579 --> 00:59:01,059
REVANUR: Slovakiet havde
sit folketingsvalg

1359
00:59:01,102 --> 00:59:03,844
forstyrret af en AI stemme klon

1360
00:59:03,888 --> 00:59:06,717
som faktisk blev formidlet
lige før valget.

1361
00:59:06,760 --> 00:59:08,457
DAVID EVAN HARRIS:
En lyd-deepfake

1362
00:59:08,501 --> 00:59:11,025
blev løsladt
det var på sociale medier

1363
00:59:11,069 --> 00:59:14,028
angiveligt stemmen
af en af kandidaterne

1364
00:59:14,072 --> 00:59:16,814
taler om at købe stemmer
og snyder valget.

1365
00:59:16,857 --> 00:59:18,642
Det gik viralt,

1366
00:59:18,685 --> 00:59:22,341
og kandidaten
der tabte valget

1367
00:59:22,384 --> 00:59:26,084
var faktisk
til støtte for Ukraine,

1368
00:59:26,127 --> 00:59:29,783
og den kandidat, der vandt
valget var faktisk...

1369
00:59:29,827 --> 00:59:31,306
DANIEL:
Pro-russisk fyr.

1370
00:59:31,350 --> 00:59:32,830
Det var en pro-russisk fyr
hvem vandt valget.

1371
00:59:32,873 --> 00:59:34,353
[taler russisk]

1372
00:59:34,396 --> 00:59:36,007
REBECCA JARVIS:
Putin har selv sagt

1373
00:59:36,050 --> 00:59:39,184
hvem vinder dette
race med kunstig intelligens

1374
00:59:39,227 --> 00:59:41,534
er i det væsentlige
menneskehedens kontrol.

1375
00:59:41,578 --> 00:59:44,493
Vi bekymrer os meget om
autoritære regeringer.

1376
00:59:45,973 --> 00:59:48,585
DAVID EVAN HARRIS:
Lige nu, Wall Street

1377
00:59:48,628 --> 00:59:50,935
og investorer mere bredt
rundt om i verden

1378
00:59:50,978 --> 00:59:52,980
kører et skub.

1379
00:59:53,024 --> 00:59:56,070
De har en efterspørgsel, der får
produkterne på markedet

1380
00:59:56,114 --> 00:59:58,377
der blænder folk
mest først.

1381
00:59:58,420 --> 01:00:01,206
De tænker ikke
om, hvordan disse værktøjer

1382
01:00:01,249 --> 01:00:03,164
kunne dybt underminere tilliden

1383
01:00:03,208 --> 01:00:05,689
og vores demokratiske institutioner.

1384
01:00:05,732 --> 01:00:07,734
HARARI:
Demokrati er et system

1385
01:00:07,778 --> 01:00:10,389
at løse uenigheder
mellem mennesker

1386
01:00:10,432 --> 01:00:11,999
på en fredelig måde,

1387
01:00:12,043 --> 01:00:14,698
men demokrati er baseret på tillid.

1388
01:00:14,741 --> 01:00:18,615
Hvis du mister al tillid,
demokrati er simpelthen umuligt.

1389
01:00:20,921 --> 01:00:22,488
TRISTAN HARRIS:
Nå, det er svært, ikke?

1390
01:00:22,531 --> 01:00:24,708
Så hvad er mulighederne
tilgængelig for os?

1391
01:00:24,751 --> 01:00:26,187
Der er sådan set to lejre.

1392
01:00:26,231 --> 01:00:29,626
Som en lejr er: lås den ned.

1393
01:00:29,669 --> 01:00:32,933
Lad os låse det her
ind i en håndfuld AI-virksomheder

1394
01:00:32,977 --> 01:00:35,457
hvem vil gøre dette
på en sikker og pålidelig måde.

1395
01:00:35,501 --> 01:00:37,068
Men så bekymrer folk sig om

1396
01:00:37,111 --> 01:00:39,026
løbske koncentrationer
af rigdom og magt.

1397
01:00:39,070 --> 01:00:41,855
Som, hvem ville du stole på at være
en million gange stærkere

1398
01:00:41,899 --> 01:00:44,249
eller velhavende end
hver anden aktør i samfundet?

1399
01:00:44,292 --> 01:00:46,338
Hvorfor skulle vi stole på dig?

1400
01:00:46,381 --> 01:00:48,601
Øh, det burde du ikke.

1401
01:00:48,645 --> 01:00:51,212
Men selvfølgelig, hvis du gør dette,
dette åbner op

1402
01:00:51,256 --> 01:00:54,433
alle disse risici ved
autoritarisme og tyranni.

1403
01:00:54,476 --> 01:00:57,131
Det er - det er sådan set
en autoritærs drøm

1404
01:00:57,175 --> 01:01:00,308
at have AI i en boks
der kan anvendes og bruges

1405
01:01:00,352 --> 01:01:02,920
til allestedsnærværende overvågning.

1406
01:01:02,963 --> 01:01:05,357
Jeg mener, på nogle måder,
den slags verden

1407
01:01:05,400 --> 01:01:10,884
som Orwell forestillede sig i 1984
er urealistisk,

1408
01:01:10,928 --> 01:01:13,278
øh, medmindre du har AI.

1409
01:01:13,321 --> 01:01:15,933
Men med AI,
det er faktisk realistisk.

1410
01:01:15,976 --> 01:01:18,370
Overvåger enhver aktivitet,

1411
01:01:18,413 --> 01:01:22,026
samtaler,
ansigtsgenkendelse.

1412
01:01:22,069 --> 01:01:26,378
Det jeg bekymrer mig om er, at
øh, disse værktøjer kan skalere op,

1413
01:01:26,421 --> 01:01:28,554
øh, en form for totalitarisme

1414
01:01:28,597 --> 01:01:31,035
det er omkostningseffektivt
og permanent.

1415
01:01:32,950 --> 01:01:35,300
TRISTAN HARRIS: Så som svar
til det siger nogle andre,

1416
01:01:35,343 --> 01:01:37,128
"Nej, nej, nej, det burde vi
faktisk lade dette rive.

1417
01:01:37,171 --> 01:01:39,391
"Lad os decentralisere denne magt
så meget som muligt.

1418
01:01:39,434 --> 01:01:41,567
"Lad os lade enhver virksomhed,
hver enkelt,

1419
01:01:41,610 --> 01:01:43,917
"hver 16-årig,
hvert videnskabslaboratorium,

1420
01:01:43,961 --> 01:01:45,963
du ved, få fordelen
af de nyeste AI-modeller."

1421
01:01:46,006 --> 01:01:48,226
Men nu har du
hver terrorgruppe,

1422
01:01:48,269 --> 01:01:51,664
enhver fravalgt person
har magten til at lave

1423
01:01:51,708 --> 01:01:53,797
det allerværste
biologiske våben.

1424
01:01:53,840 --> 01:01:55,581
Hacking infrastruktur,
skabe deepfakes,

1425
01:01:55,624 --> 01:01:57,452
oversvømmelse
vores informationsmiljø.

1426
01:01:57,496 --> 01:02:00,412
Så det skaber alle disse risici
en slags katastrofal skade

1427
01:02:00,455 --> 01:02:02,893
og samfundssammenbrud
gennem den retning.

1428
01:02:02,936 --> 01:02:04,677
Og så sidder vi lidt fast
mellem denne klippe

1429
01:02:04,721 --> 01:02:07,549
og et hårdt sted,
mellem "lås det op..."

1430
01:02:07,593 --> 01:02:09,029
[utydelig snak]

1431
01:02:10,683 --> 01:02:12,293
-...eller "lad det rive."
-[sirener jamrer]

1432
01:02:12,337 --> 01:02:14,208
[folk råber]

1433
01:02:14,252 --> 01:02:17,559
Så vi må finde noget
som en smal sti

1434
01:02:17,603 --> 01:02:20,388
der undgår
disse to negative resultater.

1435
01:02:20,432 --> 01:02:22,956
Så hvis det hele er sandt,
hvorfor ville vi ikke bare sætte farten ned

1436
01:02:23,000 --> 01:02:25,829
og finde ud af alt dette
før det er for sent?

1437
01:02:25,872 --> 01:02:28,919
Hvis menneskeheden var ekstremt klog,

1438
01:02:28,962 --> 01:02:31,182
det ville vi gøre.

1439
01:02:31,225 --> 01:02:33,097
Men der er noget andet
måde at møde disse ting på, ikke?

1440
01:02:33,140 --> 01:02:35,926
Hvilket er:
Hvad er spillereglerne?

1441
01:02:35,969 --> 01:02:39,494
Meget af, hvad administrerende direktører gør

1442
01:02:39,538 --> 01:02:42,149
er drevet af
de incitamenter, de møder.

1443
01:02:42,193 --> 01:02:45,283
Det er primært
incitamenter til profitmaksimering

1444
01:02:45,326 --> 01:02:47,198
der kører
udviklingen af AI.

1445
01:02:47,241 --> 01:02:50,375
Selv de gode fyre sidder fast
i dette dilemma

1446
01:02:50,418 --> 01:02:52,638
hvis de bevæger sig for langsomt,

1447
01:02:52,681 --> 01:02:54,553
så forlader de sig selv
sårbare

1448
01:02:54,596 --> 01:02:57,251
til alle de andre fyre
der skærer alle hjørner.

1449
01:02:57,295 --> 01:03:01,995
Alle disse topvirksomheder er med
et komplet løb uden begrænsninger

1450
01:03:02,039 --> 01:03:05,433
at hurtigst muligt få
til AGI, kom dertil nu.

1451
01:03:05,477 --> 01:03:06,913
♪ ♪

1452
01:03:08,567 --> 01:03:10,351
LADISH: Ja, jeg mener,
Jeg tror det, tror jeg

1453
01:03:10,395 --> 01:03:12,919
det starter formentlig
med DeepMind.

1454
01:03:12,963 --> 01:03:14,791
NYSKUD:
Google køber

1455
01:03:14,834 --> 01:03:16,357
kunstig intelligens firma
DeepMind teknologier.

1456
01:03:16,401 --> 01:03:18,620
Vilkår for aftalen
blev ikke oplyst.

1457
01:03:18,664 --> 01:03:20,709
ELON MUSK: Larry Page og jeg
plejede at være meget nære venner,

1458
01:03:20,753 --> 01:03:22,711
og det blev tydeligt for mig

1459
01:03:22,755 --> 01:03:26,411
at Larry var ligeglad
om AI-sikkerhed.

1460
01:03:26,454 --> 01:03:28,892
EMILY CHANG: Elon Musk har sagt
du startede OpenAI,

1461
01:03:28,935 --> 01:03:30,981
I startede begge OpenAI fordi
han var bange for Google.

1462
01:03:31,024 --> 01:03:32,156
LADISH: Du-dig i bund og grund
havde grundlaget

1463
01:03:32,199 --> 01:03:33,722
af OpenAI kommer ud af det.

1464
01:03:33,766 --> 01:03:35,202
"Så vi vil gøre det bedre.
Vi gør det

1465
01:03:35,246 --> 01:03:36,813
på en mere sikker måde
eller på en mere åben måde."

1466
01:03:38,466 --> 01:03:40,555
Så det var det, der startede OpenAI.

1467
01:03:40,599 --> 01:03:42,731
Og så nu, i stedet for
at have ét AGI-projekt,

1468
01:03:42,775 --> 01:03:44,821
du har to AGI-projekter.

1469
01:03:44,864 --> 01:03:46,910
Det værst tænkelige
det kunne ske

1470
01:03:46,953 --> 01:03:49,608
er hvis der er
flere AGI-projekter

1471
01:03:49,651 --> 01:03:51,871
udført af forskellige mennesker
som ikke kan lide hinanden

1472
01:03:51,915 --> 01:03:54,787
og alle konkurrerer
at komme til AGI først.

1473
01:03:54,831 --> 01:03:56,963
Dette ville være det værste
mulige ting, der kan ske,

1474
01:03:57,007 --> 01:04:00,097
fordi dette ville betyde
at den, der er mindst sikker,

1475
01:04:00,140 --> 01:04:03,143
hvem der ofrer mest
på sikkerhed for at komme videre

1476
01:04:03,187 --> 01:04:05,145
vil være personen
der kommer der først.

1477
01:04:05,189 --> 01:04:07,844
-DANIEL: Det er dybest set
hvad sker der, ikke? - Ja.

1478
01:04:07,887 --> 01:04:11,325
Dig og din bror
berømt forlod OpenAI, øh,

1479
01:04:11,369 --> 01:04:12,936
at starte antropisk.

1480
01:04:12,979 --> 01:04:15,068
RASKIN: Og så Antropisk
startede pga

1481
01:04:15,112 --> 01:04:17,854
nogle forskere
inde i OpenAI sagde,

1482
01:04:17,897 --> 01:04:20,508
"Jeg vil af sted
og gør det mere sikkert."

1483
01:04:20,552 --> 01:04:23,511
Du havde brug for noget derudover
bare at skalere modellerne op,

1484
01:04:23,555 --> 01:04:25,818
som er justering eller sikkerhed.

1485
01:04:25,862 --> 01:04:27,428
HENDRYCKS:
"Vi er mere ansvarlige

1486
01:04:27,472 --> 01:04:29,648
eller mere troværdig
eller mere moralsk."

1487
01:04:29,691 --> 01:04:31,519
Nu har du tre AGI-projekter.

1488
01:04:31,563 --> 01:04:33,043
Men også siddende
bordet med dig

1489
01:04:33,086 --> 01:04:34,827
vil være en flok AI'er.

1490
01:04:34,871 --> 01:04:37,525
LADISH: Og nu er Meta
forsøger at gøre ting.

1491
01:04:37,569 --> 01:04:39,571
I mellemtiden en ny kunstig
efterretningskonkurrent

1492
01:04:39,614 --> 01:04:41,573
annonceret i denne uge,
Elon Musks...

1493
01:04:41,616 --> 01:04:44,619
HENDRYCKS: xAI, hvilket ville være
Elon Musks organisation.

1494
01:04:44,663 --> 01:04:46,230
MUSK:
Jeg stoler ikke på OpenAI.

1495
01:04:46,273 --> 01:04:47,884
Kampen mellem
Elon Musk og OpenAI

1496
01:04:47,927 --> 01:04:49,581
er gået ind i en ny runde.

1497
01:04:49,624 --> 01:04:51,713
Jeg stoler ikke på Sam Altman,
øh, og jeg, og jeg tror ikke

1498
01:04:51,757 --> 01:04:54,194
vi vil have mest
kraftfuld AI i verden

1499
01:04:54,238 --> 01:04:56,414
kontrolleret af nogen
som ikke er til at stole på.

1500
01:04:56,457 --> 01:04:58,416
[jubel og bifald]

1501
01:04:58,459 --> 01:05:01,593
Incitamentet er
uanede pengesummer.

1502
01:05:01,636 --> 01:05:03,377
-Ja.
- Er en uovertruffen magt.

1503
01:05:03,421 --> 01:05:05,553
-Ja.
- Er uovertruffen kontrol.

1504
01:05:05,597 --> 01:05:08,034
Hvis du har noget
det er en million gange smartere

1505
01:05:08,078 --> 01:05:11,385
og dygtigere end
alt andet på planeten Jorden

1506
01:05:11,429 --> 01:05:14,171
og ingen andre har det,

1507
01:05:14,214 --> 01:05:15,955
den ting er incitamentet.

1508
01:05:15,999 --> 01:05:17,261
Så du styrer verden.

1509
01:05:18,610 --> 01:05:20,394
Hvis du virkelig tror på dette,

1510
01:05:20,438 --> 01:05:22,744
hvis du virkelig i dit hjerte
tro dette,

1511
01:05:22,788 --> 01:05:24,181
så er du måske
villig til at tage

1512
01:05:24,224 --> 01:05:26,096
ret stor risiko
at få det til at ske.

1513
01:05:26,139 --> 01:05:28,881
Google har netop frigivet
sin nyeste AI-model.

1514
01:05:28,925 --> 01:05:31,231
Svaret på OpenAI's ChatGPT.

1515
01:05:31,275 --> 01:05:33,059
Hvordan kommer vi til
disse ti billioner?

1516
01:05:33,103 --> 01:05:35,192
Er NVIDIA ved at blive den mest
værdifuld virksomhed i USA?

1517
01:05:35,235 --> 01:05:38,978
Dette er den største forretning
mulighed i historien.

1518
01:05:39,022 --> 01:05:40,501
I historien.

1519
01:05:40,545 --> 01:05:42,242
Altså grunden
alle er virkelig hypede

1520
01:05:42,286 --> 01:05:44,679
om kunstig intelligens
lige nu

1521
01:05:44,723 --> 01:05:48,031
er fordi
jo mere hype disse virksomheder

1522
01:05:48,074 --> 01:05:50,033
de potentielle muligheder
af deres teknologi,

1523
01:05:50,076 --> 01:05:53,210
jo flere investeringer
de kan tiltrække.

1524
01:05:53,253 --> 01:05:54,733
CARL QUINTANILLA:
Amazon investerer op til

1525
01:05:54,776 --> 01:05:56,996
fire milliarder dollars
i start-up Anthropic.

1526
01:05:57,040 --> 01:05:58,693
OpenAI sætter fokus

1527
01:05:58,737 --> 01:06:00,739
på en blockbuster halvdel
værdiansættelse af en billion dollar.

1528
01:06:00,782 --> 01:06:02,001
en halv billion!

1529
01:06:02,045 --> 01:06:03,220
Løbet er i gang.

1530
01:06:03,263 --> 01:06:04,612
Dette sker
hurtigere end nogensinde.

1531
01:06:04,656 --> 01:06:06,614
Er vi i en AI-boble?
Selvfølgelig.

1532
01:06:06,658 --> 01:06:09,182
Jeg kan bare ikke se
boblen brister

1533
01:06:09,226 --> 01:06:12,446
mens du stadig har
denne store udgiftscyklus.

1534
01:06:12,490 --> 01:06:15,014
RASKIN: Selvom du tror
det hele er hype,

1535
01:06:15,058 --> 01:06:17,582
der er milliarder
til billioner af dollars

1536
01:06:17,625 --> 01:06:21,107
flyder ind i at lave AI-systemer
mere kraftfuld.

1537
01:06:21,151 --> 01:06:23,849
Og når du først har den ting
det er mere kraftfuldt,

1538
01:06:23,892 --> 01:06:25,546
virksomheder kan bruge det

1539
01:06:25,590 --> 01:06:27,548
at få større overskud
og at tjene flere penge.

1540
01:06:27,592 --> 01:06:30,116
Det kan lande bruge
at skabe stærkere militære.

1541
01:06:30,160 --> 01:06:32,814
NVIDIA har overhalet
Microsoft og Apple

1542
01:06:32,858 --> 01:06:36,253
at blive verdens
mest værdifulde virksomhed.

1543
01:06:36,296 --> 01:06:38,995
Kapløbet om at implementere bliver
kapløbet mod hensynsløshed,

1544
01:06:39,038 --> 01:06:41,780
fordi de ikke kan
implementere det så hurtigt

1545
01:06:41,823 --> 01:06:43,173
og også få det rigtigt.

1546
01:06:43,216 --> 01:06:46,045
Det tror de på
de er de gode fyre.

1547
01:06:46,089 --> 01:06:49,309
"Og hvis jeg ikke gør det,
nogen der ikke har

1548
01:06:49,353 --> 01:06:51,572
"så gode værdier som mig
vil sidde ved bordet

1549
01:06:51,616 --> 01:06:54,445
at tage beslutninger, så
Jeg har en forpligtelse til at gøre det."

1550
01:06:54,488 --> 01:06:56,186
Ja, det er det
en meget almindelig tro.

1551
01:06:56,229 --> 01:06:58,579
Mange, mange, mange,
måske de fleste mennesker

1552
01:06:58,623 --> 01:07:00,712
bygge denne teknologi
tro det.

1553
01:07:00,755 --> 01:07:03,715
Jeg er bekymret over
den kommercielle konkurrence,

1554
01:07:03,758 --> 01:07:05,847
men det viser sig
Jeg er endnu mere bekymret

1555
01:07:05,891 --> 01:07:08,024
den geopolitiske konkurrence.

1556
01:07:08,067 --> 01:07:10,330
Vi var otte år bagud
et år siden.

1557
01:07:10,374 --> 01:07:12,593
Nu er vi nok
mindre end et år bagud.

1558
01:07:12,637 --> 01:07:15,683
Nå, begge Saudi-Arabien
og UAE har kørt kapløb

1559
01:07:15,727 --> 01:07:18,121
at oprette datacentre
og positionere sig selv

1560
01:07:18,164 --> 01:07:20,384
som den dominerende kraft i kunstig intelligens...

1561
01:07:20,427 --> 01:07:22,429
...for at lave Sydkorea
en global AI-leder.

1562
01:07:22,473 --> 01:07:23,996
JULIA SIEGER:
Frankrigs præsident Emmanuel Macron

1563
01:07:24,040 --> 01:07:25,867
talte meget om
kunstig intelligens...

1564
01:07:25,911 --> 01:07:27,434
Nu med mere om Israels rolle

1565
01:07:27,478 --> 01:07:29,610
i den kunstige intelligens
revolution...

1566
01:07:29,654 --> 01:07:33,092
Lande vil konkurrere
for hvis AI-teknologier

1567
01:07:33,136 --> 01:07:34,876
skabe den næste generation
af industrien.

1568
01:07:34,920 --> 01:07:38,010
Kineserne insisterer
at AI,

1569
01:07:38,054 --> 01:07:39,838
som udviklet i Kina,

1570
01:07:39,881 --> 01:07:41,709
styrke kerneværdierne

1571
01:07:41,753 --> 01:07:44,016
af det kinesiske kommunistparti
og det kinesiske system.

1572
01:07:44,060 --> 01:07:48,716
Amerika skal slå Kina
i AI-løbet.

1573
01:07:48,760 --> 01:07:51,023
DANIEL: Kinas, ligesom,
lysår bagud.

1574
01:07:51,067 --> 01:07:52,677
Er de?

1575
01:07:52,720 --> 01:07:54,983
Jeg mener, de har meget mere
træningsdata end vi gør,

1576
01:07:55,027 --> 01:07:57,812
og der er intet, der siger dem
slip ikke en model næste måned

1577
01:07:57,856 --> 01:08:00,946
det er ikke--
ikke langt bedre end GPT-4.

1578
01:08:00,989 --> 01:08:03,818
Alt gik fint.
Hvad kunne gå galt?

1579
01:08:03,862 --> 01:08:06,691
-DeepSeek... [taler kinesisk]
-DeepSeek... -DeepSeek...

1580
01:08:06,734 --> 01:08:08,040
Der er en ny model.

1581
01:08:08,084 --> 01:08:10,825
Men fra et kinesisk laboratorium
kaldet DeepSeek.

1582
01:08:10,869 --> 01:08:13,959
Lad os tale om DeepSeek,
fordi det er åndssvagt,

1583
01:08:14,002 --> 01:08:17,658
og det ryster dette
hele branchen til sin kerne.

1584
01:08:17,702 --> 01:08:19,399
Trump-administrationen
vil sikre

1585
01:08:19,443 --> 01:08:23,055
at den mest magtfulde
AI-systemer er bygget i USA

1586
01:08:23,099 --> 01:08:26,537
med amerikansk designet
og fremstillede chips.

1587
01:08:26,580 --> 01:08:28,800
AI er Kinas
Apollo projekt.

1588
01:08:28,843 --> 01:08:30,193
Det kinesiske kommunistparti

1589
01:08:30,236 --> 01:08:31,542
forstår dybt potentialet

1590
01:08:31,585 --> 01:08:32,891
for AI til at forstyrre krigsførelse.

1591
01:08:32,934 --> 01:08:35,328
Google lover ikke længere
at det ikke vil

1592
01:08:35,372 --> 01:08:38,418
bruge kunstig intelligens
til våben eller overvågning.

1593
01:08:38,462 --> 01:08:40,028
Kina, Nordkorea, Rusland

1594
01:08:40,072 --> 01:08:41,900
vil blive ved med at bygge det
så hurtigt som muligt

1595
01:08:41,943 --> 01:08:44,511
for at få mere økonomisk fordel,
større produktivitetsfordel,

1596
01:08:44,555 --> 01:08:46,818
mere videnskabelig fordel,
mere militær fordel,

1597
01:08:46,861 --> 01:08:48,646
fordi AI laver bedre våben.

1598
01:08:48,689 --> 01:08:51,736
Hvis du taler om
et så bredt og dygtigt system

1599
01:08:51,779 --> 01:08:53,303
som en genial videnskabsmand,

1600
01:08:53,346 --> 01:08:57,959
den kan måske køre
en militær kampagne

1601
01:08:58,003 --> 01:09:01,441
bedre end nogen af generalerne
i den amerikanske regering lige nu.

1602
01:09:01,485 --> 01:09:05,489
Taiwan er problemet at skabe
mest spænding lige nu

1603
01:09:05,532 --> 01:09:07,882
mellem Beijing og USA.

1604
01:09:07,926 --> 01:09:10,450
Der er en direkte
oppositionel uenighed

1605
01:09:10,494 --> 01:09:11,973
mellem USA og Kina

1606
01:09:12,017 --> 01:09:13,975
om, hvorvidt Taiwan er
del af Kina.

1607
01:09:14,019 --> 01:09:18,415
MATHENY: Taiwan er vigtigt
af så mange grunde.

1608
01:09:18,458 --> 01:09:20,547
Det er også hjemsted for

1609
01:09:20,591 --> 01:09:24,160
omkring 90 % af avanceret chip
produktion til verden,

1610
01:09:24,203 --> 01:09:28,381
hvilket betyder, at udbuddet
kæde til avanceret databehandling

1611
01:09:28,425 --> 01:09:31,036
er i fare, hvis der er

1612
01:09:31,079 --> 01:09:32,951
en slags scenarie
omkring Taiwan,

1613
01:09:32,994 --> 01:09:37,999
om en blokade
eller en invasion af Kina.

1614
01:09:38,043 --> 01:09:40,698
HENDRYCKS:
Skal vi være i et eller andet kapløb

1615
01:09:40,741 --> 01:09:45,616
mellem USA og Kina
der til sidst overgår til

1616
01:09:45,659 --> 01:09:49,359
et militariseret AI-våbenkapløb og,
du ved, potentielt kundeemner

1617
01:09:49,402 --> 01:09:51,274
til en eller anden stormagtskonflikt?

1618
01:09:51,317 --> 01:09:53,014
NICK SCHIFRIN: Den udadvendte
øverste amerikanske militærkommandant

1619
01:09:53,058 --> 01:09:55,843
i regionen
forudsagde, at krig var på vej.

1620
01:09:55,887 --> 01:09:57,932
Jeg tror, truslen er åbenbar
i løbet af dette årti,

1621
01:09:57,976 --> 01:09:59,456
faktisk i de næste seks år.

1622
01:09:59,499 --> 01:10:01,414
MATHENY:
Øh, et af scenarierne

1623
01:10:01,458 --> 01:10:05,853
som jeg bekymrer mig om er
en cyber flash krig,

1624
01:10:05,897 --> 01:10:10,902
øh, en hvori
cyberværktøjer, der er autonome

1625
01:10:10,945 --> 01:10:12,947
konkurrerer mod hinanden

1626
01:10:12,991 --> 01:10:14,601
på måder, der er eskalerende

1627
01:10:14,645 --> 01:10:16,386
uden
meningsfuld menneskelig kontrol.

1628
01:10:18,823 --> 01:10:20,433
HARARI:
Du bor i en krigszone,

1629
01:10:20,477 --> 01:10:23,784
det vil være en AI, der bestemmer
om du skal bombe dit hus

1630
01:10:23,828 --> 01:10:25,743
og om man skal slå dig ihjel.

1631
01:10:25,786 --> 01:10:27,527
Lad os få maskinen til at bestemme.

1632
01:10:27,571 --> 01:10:29,355
Det er fristelsen.

1633
01:10:29,399 --> 01:10:32,576
Det er derfor AI er så fristende
for militæret at adoptere,

1634
01:10:32,619 --> 01:10:35,753
at skabe autonome våben,
fordi hvis jeg begynder at tro

1635
01:10:35,796 --> 01:10:39,147
at min militære modstander
vil adoptere AI,

1636
01:10:39,191 --> 01:10:41,802
det bliver et kapløb om hvem der kan
træk aftrækkeren hurtigere.

1637
01:10:41,846 --> 01:10:44,892
Og den der automatiserer
den beslutning,

1638
01:10:44,936 --> 01:10:47,199
frem for at have
et menneske i løkken,

1639
01:10:47,243 --> 01:10:49,201
er den ene
der vil vinde den krig.

1640
01:10:49,245 --> 01:10:50,637
Og hvis man tænker sig om

1641
01:10:50,681 --> 01:10:53,074
atomvåbenkapløbet
i 1940'erne...

1642
01:10:54,554 --> 01:10:56,556
...du kender tyskerne
arbejder på bomben,

1643
01:10:56,600 --> 01:11:00,734
så det er ikke så nemt at sige
Robert Oppenheimer så,

1644
01:11:00,778 --> 01:11:03,781
"Øh, du ved, sæt farten ned."

1645
01:11:03,824 --> 01:11:05,304
Så efter at have set denne film,
det bliver forvirrende,

1646
01:11:05,348 --> 01:11:06,653
fordi du vil gå tilbage,

1647
01:11:06,697 --> 01:11:08,307
og i morgen
du vil bruge ChatGPT,

1648
01:11:08,351 --> 01:11:10,440
og det bliver det
utroligt hjælpsom.

1649
01:11:10,483 --> 01:11:12,703
Og jeg vil også bruge det, og
det vil være utrolig nyttigt.

1650
01:11:12,746 --> 01:11:16,141
Og du vil sige: "Vent, så
Jeg har lige set denne film om AI

1651
01:11:16,184 --> 01:11:18,012
"og eksistentiel risiko
og alle disse ting,

1652
01:11:18,056 --> 01:11:20,624
og hvor er truslen igen?"

1653
01:11:20,667 --> 01:11:24,715
Og det er ikke det, ChatGPT er
den eksistentielle trussel.

1654
01:11:24,758 --> 01:11:28,675
Det er kapløbet om at implementere
den mest magtfulde,

1655
01:11:28,719 --> 01:11:31,635
uudgrundelig,
ukontrollerbar teknologi,

1656
01:11:31,678 --> 01:11:35,116
under det værste
mulige incitamenter,

1657
01:11:35,160 --> 01:11:37,031
det er den eksistentielle trussel.

1658
01:11:38,119 --> 01:11:40,383
DANIEL:
Men det slår mig at-det

1659
01:11:40,426 --> 01:11:43,211
vi er i en kontekst af et løb.

1660
01:11:43,255 --> 01:11:45,910
-SUTSKEVER: Ja.
-Og det er i en konkurrence,

1661
01:11:45,953 --> 01:11:47,651
"må komme derhen først,
skal vinde løbet" indstilling,

1662
01:11:47,694 --> 01:11:49,000
"skal konkurrere mod Kina,

1663
01:11:49,043 --> 01:11:50,349
skulle konkurrere imod
de andre laboratorier."

1664
01:11:50,393 --> 01:11:51,829
Er det ikke rigtigt?

1665
01:11:51,872 --> 01:11:53,657
I dag er det tilfældet.

1666
01:11:53,700 --> 01:11:56,703
Så vi er nødt til at ændre os
den racedynamik.

1667
01:11:57,922 --> 01:11:59,924
Synes du ikke?

1668
01:11:59,967 --> 01:12:02,187
Det tror jeg ville være
rigtig godt.

1669
01:12:03,710 --> 01:12:06,496
Jeg-tror jeg
der er en slags...

1670
01:12:06,539 --> 01:12:09,542
mystik omkring AI
det får det til at føles som

1671
01:12:09,586 --> 01:12:11,718
det faldt ned fra himlen.

1672
01:12:11,762 --> 01:12:13,459
DANIEL: Tænker på det her
som en gudelignende teknologi

1673
01:12:13,503 --> 01:12:15,418
er et problem.

1674
01:12:15,461 --> 01:12:16,897
Ja.

1675
01:12:18,072 --> 01:12:19,900
Hvorfor?

1676
01:12:19,944 --> 01:12:22,990
Det giver licens
til virksomhederne...

1677
01:12:23,034 --> 01:12:26,254
[griner]
ikke tage ansvar

1678
01:12:26,298 --> 01:12:30,781
for de ting, som softwaren
som de byggede gør.

1679
01:12:30,824 --> 01:12:35,089
Hvis folk skabte den forbindelse,

1680
01:12:35,133 --> 01:12:37,527
måske ville det gerne,
hjælpe dem med at forstå igen

1681
01:12:37,570 --> 01:12:41,835
dynamikken i
alle pengene og magten og...

1682
01:12:41,879 --> 01:12:45,317
kaos der sker med...

1683
01:12:45,361 --> 01:12:47,101
skabe denne teknologi.

1684
01:12:47,145 --> 01:12:49,234
Det er ligesom fem fyre
hvem kontrollerer det, ikke?

1685
01:12:49,277 --> 01:12:51,628
- Ligesom fem mænd?
- Grundlæggende, ja.

1686
01:12:51,671 --> 01:12:53,847
-De administrerende direktører?
- Ja.

1687
01:12:53,891 --> 01:12:55,371
Okay.

1688
01:12:56,720 --> 01:12:58,722
♪ ♪

1689
01:13:01,072 --> 01:13:03,074
DANIEL:
Nogle gange føles det som

1690
01:13:03,117 --> 01:13:07,252
Jeg har været på dette
bare som en endeløs rejse

1691
01:13:07,295 --> 01:13:09,341
at prøve at forstå dette.

1692
01:13:09,385 --> 01:13:12,388
Du ved, sådan
Jeg bestiger et bjerg...

1693
01:13:15,608 --> 01:13:19,133
...og hver gang
Jeg, ligesom, kommer op ad en bakke,

1694
01:13:19,177 --> 01:13:20,744
Jeg tror, jeg har nået toppen,

1695
01:13:20,787 --> 01:13:23,399
men det bliver bare ved
og går og går.

1696
01:13:23,442 --> 01:13:24,530
[kamera klikker, suser]

1697
01:13:24,574 --> 01:13:26,967
Men fra alt hvad jeg har hørt,

1698
01:13:27,011 --> 01:13:30,362
hvis jeg skulle gætte hvad der er
på toppen af angstbjerget,

1699
01:13:30,406 --> 01:13:34,192
det er disse fem administrerende direktører
fra disse fem virksomheder,

1700
01:13:34,235 --> 01:13:37,630
der er lidt ligesom
Oppenheimers af dette øjeblik.

1701
01:13:37,674 --> 01:13:39,458
Det er fyrene
hvem bygger denne ting.

1702
01:13:39,502 --> 01:13:40,807
Ja.

1703
01:13:40,851 --> 01:13:44,158
Ligesom, er der en plan?

1704
01:13:44,202 --> 01:13:46,422
Lederen af virksomheden
der gør ChatGPT

1705
01:13:46,465 --> 01:13:49,947
advaret om evt
betydelig skade på verden.

1706
01:13:49,990 --> 01:13:52,384
Jeg tror, hvis denne teknologi
går galt,

1707
01:13:52,428 --> 01:13:53,472
det kan gå helt galt.

1708
01:13:53,516 --> 01:13:55,779
[udbrud af tydelig snak]

1709
01:13:55,822 --> 01:13:57,781
DANIEL:
Fem fyre.

1710
01:13:57,824 --> 01:14:01,567
Jeg har aldrig tænkt på os
som social medievirksomhed.

1711
01:14:01,611 --> 01:14:06,050
Det føles som om jeg skal prøve
og-og find disse fyre...

1712
01:14:06,093 --> 01:14:07,181
Mm-hmm.

1713
01:14:07,225 --> 01:14:09,009
...og få dem med i filmen.

1714
01:14:10,315 --> 01:14:12,622
Det ville vi helt sikkert få
noget klarhed derfra.

1715
01:14:13,666 --> 01:14:14,928
[kamera klikker, suser]

1716
01:14:16,582 --> 01:14:19,150
Jeg mener, pengene skal stoppe
et eller andet sted, ikke?

1717
01:14:19,193 --> 01:14:21,152
[vinden fløjter]

1718
01:14:21,195 --> 01:14:22,936
♪ ♪

1719
01:14:23,981 --> 01:14:25,896
[værktøjer suser og klikker]

1720
01:14:27,071 --> 01:14:29,116
[sukker]

1721
01:14:34,034 --> 01:14:35,296
DANIEL:
Hvordan føles det?

1722
01:14:35,340 --> 01:14:37,690
-Stor.
- Er det okay?

1723
01:14:37,734 --> 01:14:39,431
- Ja.
-[utydelig besætningssnak]

1724
01:14:39,475 --> 01:14:40,998
-Kan jeg flytte sædet frem?
-DANIEL: Ja, det kan du.

1725
01:14:41,041 --> 01:14:42,173
Det er, øh, det er bare
lidt akavet.

1726
01:14:42,216 --> 01:14:43,566
Jeg er lidt sådan...

1727
01:14:43,609 --> 01:14:45,045
Dario, hvordan har du det
om den stol?

1728
01:14:45,089 --> 01:14:47,004
Øh, ja, stolen er god.

1729
01:14:47,047 --> 01:14:48,832
-Jeg ville bare flytte den
lidt frem. - Okay.

1730
01:14:48,875 --> 01:14:50,529
Jeg valgte den stol.

1731
01:14:50,573 --> 01:14:52,139
- Det er en god stol.
-Tak.

1732
01:14:52,183 --> 01:14:53,619
[mobiltelefon ringer]

1733
01:14:57,884 --> 01:14:59,495
TED:
Og bare sæt dig ned der.

1734
01:15:01,409 --> 01:15:03,063
Og så igennem her,

1735
01:15:03,107 --> 01:15:04,369
vi vil se på hinanden
gennem dette glas.

1736
01:15:04,412 --> 01:15:06,458
[optaget signal bipper]

1737
01:15:11,419 --> 01:15:13,552
Og sidder tilbage i stolen,
læner sig frem?

1738
01:15:13,596 --> 01:15:15,119
- DANIEL: Ja. Nå, uanset hvad
behageligt, synes jeg. - Okay.

1739
01:15:15,162 --> 01:15:16,686
Det er lidt sejt.
Der er en masse spejle.

1740
01:15:16,729 --> 01:15:17,817
- Er det... okay.
-KVINDE: Sam A., tag en. Mærke.

1741
01:15:17,861 --> 01:15:19,515
- Hvordan er det?
-God. Tak.

1742
01:15:19,558 --> 01:15:21,038
DANIEL: Tilblivelsen
af dette projekt er, at jeg var

1743
01:15:21,081 --> 01:15:22,822
sidder derhjemme,
og jeg legede med,

1744
01:15:22,866 --> 01:15:24,389
Jeg tror, din billedgenerator,

1745
01:15:24,432 --> 01:15:27,261
og jeg var samtidig,
øh, bange

1746
01:15:27,305 --> 01:15:29,437
- og virkelig imponeret.
-[klukker sagte]

1747
01:15:29,481 --> 01:15:31,875
- Det er den sædvanlige kombination.
-Og så skær til

1748
01:15:31,918 --> 01:15:34,617
min kone og jeg finder ud af det
vi venter.

1749
01:15:34,660 --> 01:15:38,272
Og-og det har jeg ligesom
en eksistentiel krise

1750
01:15:38,316 --> 01:15:40,231
som min kone er
seks måneder gravid.

1751
01:15:40,274 --> 01:15:42,929
Og jeg tror mit første spørgsmål,
som jeg spørger alle:

1752
01:15:42,973 --> 01:15:45,453
Det er en frygtelig tid nu
at få et barn?

1753
01:15:45,497 --> 01:15:47,368
Begår jeg en stor fejl?

1754
01:15:47,412 --> 01:15:49,022
Jeg venter et barn
også i marts. Min første.

1755
01:15:49,066 --> 01:15:50,502
- Venter du et barn?
- Ja.

1756
01:15:50,546 --> 01:15:51,808
- Venter du i marts?
-Første barn.

1757
01:15:51,851 --> 01:15:53,287
-Mazel tov.
- Mange tak.

1758
01:15:53,331 --> 01:15:54,462
Jeg har aldrig været så begejstret
for hvad som helst.

1759
01:15:54,506 --> 01:15:56,464
- Sådan har jeg det.
- Ja.

1760
01:15:56,508 --> 01:15:58,205
Men du er ikke bange?

1761
01:15:58,249 --> 01:16:02,732
Jeg mener, ligesom at have et barn
netop denne betydningsfulde ting

1762
01:16:02,775 --> 01:16:04,995
at jeg, du ved,
Jeg er vågen hver nat, som

1763
01:16:05,038 --> 01:16:06,823
læse disse bøger om
hvordan man opdrager et barn,

1764
01:16:06,866 --> 01:16:08,215
og jeg håber
Jeg vil gøre et godt stykke arbejde,

1765
01:16:08,259 --> 01:16:09,260
og det føles
meget overvældende og--

1766
01:16:09,303 --> 01:16:12,045
men jeg er ikke bange...

1767
01:16:12,089 --> 01:16:14,047
for børn at vokse op
i en verden med AI.

1768
01:16:14,091 --> 01:16:16,310
Sådan, det er... det vil være okay.

1769
01:16:16,354 --> 01:16:19,009
Det er godt at høre
kommer fra fyren.

1770
01:16:19,052 --> 01:16:20,750
Jeg synes, det er en vidunderlig idé
at få børn.

1771
01:16:20,793 --> 01:16:23,230
Jeg tror, de er de fleste
magisk, utrolig ting.

1772
01:16:23,274 --> 01:16:25,276
-[sukker tungt]
- Der er så meget usikkerhed,

1773
01:16:25,319 --> 01:16:26,843
Det ville jeg næsten bare gøre
hvad du alligevel vil gøre.

1774
01:16:26,886 --> 01:16:28,932
Jeg ved, at det ikke er det
et meget tilfredsstillende svar,

1775
01:16:28,975 --> 01:16:31,891
men det er den eneste
jeg kan finde på.

1776
01:16:31,935 --> 01:16:34,459
Vores børn vil aldrig...

1777
01:16:34,502 --> 01:16:37,070
kender en verden, der ikke har
virkelig avanceret AI.

1778
01:16:37,114 --> 01:16:39,856
Det vil vores børn faktisk aldrig
være smartere end en AI.

1779
01:16:39,899 --> 01:16:42,075
DANIEL: "Vores børn vil
aldrig være klogere end en AI"?

1780
01:16:42,119 --> 01:16:44,338
Nå, fra en rå,
fra et råt IQ-perspektiv,

1781
01:16:44,382 --> 01:16:46,253
det bliver de aldrig
smartere end en AI.

1782
01:16:46,297 --> 01:16:48,038
Det gør den forestilling ikke
forurolige dig en smule?

1783
01:16:48,081 --> 01:16:51,128
For det får mig til at føle
lidt kvalm på en mærkelig måde.

1784
01:16:51,171 --> 01:16:54,784
Øh, det foruroliger mig
en lille smule.

1785
01:16:54,827 --> 01:16:56,263
Men det er virkeligheden.

1786
01:16:56,307 --> 01:16:58,265
DANIEL:
Okay, så racedynamik.

1787
01:16:58,309 --> 01:17:01,007
Vi har en flok mennesker
som alle er enige

1788
01:17:01,051 --> 01:17:02,879
at dette er skræmmende.

1789
01:17:02,922 --> 01:17:04,750
Baseret på de tidslinjer, der
mange mennesker har givet mig,

1790
01:17:04,794 --> 01:17:07,013
vi har mellem to måneder og
fem år til at finde ud af det.

1791
01:17:07,057 --> 01:17:08,667
- Ja.
-Og-og, tror jeg,

1792
01:17:08,711 --> 01:17:12,845
mit største spørgsmål er:
Hvorfor kan vi ikke bare stoppe?

1793
01:17:14,499 --> 01:17:19,069
Problemet med, øh, øh,
"bare at stoppe" er det, øh,

1794
01:17:19,112 --> 01:17:22,202
der er mange, mange grupper nu
rundt om i verden, øh, øh,

1795
01:17:22,246 --> 01:17:25,684
bygge dette, for
mange nationer, mange virksomheder,

1796
01:17:25,728 --> 01:17:28,121
øh, alle med
forskellige motivationer.

1797
01:17:28,165 --> 01:17:30,776
Der er nogle af
disse virksomheder i dette rum

1798
01:17:30,820 --> 01:17:33,997
hvem deres position er, "Vi vil have
at udvikle denne teknologi

1799
01:17:34,040 --> 01:17:36,042
absolut så hurtigt som muligt."

1800
01:17:36,086 --> 01:17:40,046
Og selvom vi kunne vedtage love
i USA og Europa,

1801
01:17:40,090 --> 01:17:42,396
vi skal overbevise...

1802
01:17:42,440 --> 01:17:44,964
Xi Jinping og Vladimir Putin
eller du ved,

1803
01:17:45,008 --> 01:17:47,445
hvem de end er videnskabelige
rådgivere er på deres side.

1804
01:17:47,488 --> 01:17:49,229
Det bliver rigtig svært.

1805
01:17:49,273 --> 01:17:50,927
Jeg tror, det er sandt

1806
01:17:50,970 --> 01:17:53,581
at hvis to personer er
på nøjagtig samme sted,

1807
01:17:53,625 --> 01:17:55,888
øh, den der er villig til at tage
flere genveje til sikkerhed

1808
01:17:55,932 --> 01:17:58,064
burde sådan set
"kom der først."

1809
01:17:58,108 --> 01:18:01,067
Øh, men...

1810
01:18:01,111 --> 01:18:02,939
vi er i stand til at bruge vores lead

1811
01:18:02,982 --> 01:18:05,985
at bruge meget mere tid
laver sikkerhedstest.

1812
01:18:06,029 --> 01:18:07,987
DANIEL:
Og hvad hvis du mister det?

1813
01:18:08,031 --> 01:18:09,597
Du får opkaldet
og du finder ud af det

1814
01:18:09,641 --> 01:18:11,687
at du er nu, lad os sige,
seks måneder bagud.

1815
01:18:11,730 --> 01:18:14,254
-Hvad-hvad sker der så?
- Det kommer an på, hvem vi er bagud til.

1816
01:18:14,298 --> 01:18:16,822
Hvis det er, som
en modstridende regering,

1817
01:18:16,866 --> 01:18:18,824
det er nok rigtig slemt.

1818
01:18:18,868 --> 01:18:21,348
Så lad os sige, at du får opkaldet
at Kina har en,

1819
01:18:21,392 --> 01:18:24,787
har en rekursivt
selvforbedrende middel

1820
01:18:24,830 --> 01:18:27,180
eller sådan noget, at vi
burde være virkelig bekymret.

1821
01:18:27,224 --> 01:18:29,226
Hvad gør-- hvad-hvad sker der?

1822
01:18:30,967 --> 01:18:32,403
Øh...

1823
01:18:35,406 --> 01:18:37,234
Den sag ville kræve...

1824
01:18:37,277 --> 01:18:40,672
det første skridt ville være
at tale med den amerikanske regering.

1825
01:18:40,716 --> 01:18:42,935
Sam, stoler du på
regeringens evne til at håndtere

1826
01:18:42,979 --> 01:18:44,676
sådan noget?

1827
01:18:45,895 --> 01:18:47,766
Ja, det gør jeg faktisk.

1828
01:18:47,810 --> 01:18:49,550
Der er andre ting, jeg ikke gør
stole på, at regeringen håndterer

1829
01:18:49,594 --> 01:18:51,161
men det særlige scenarie,
Jeg tror, de ville vide...

1830
01:18:51,204 --> 01:18:52,771
de-de-- ja.

1831
01:18:52,815 --> 01:18:54,425
DANIEL: Når du har,
som private diskussioner

1832
01:18:54,468 --> 01:18:56,383
med de andre fyre, hvis
fingrene er på aftrækkeren,

1833
01:18:56,427 --> 01:18:59,604
så at sige, øh,
lav de private diskussioner

1834
01:18:59,647 --> 01:19:01,301
fylde dig med selvtillid

1835
01:19:01,345 --> 01:19:03,347
eller gør de dig,
øh, mere ængstelig?

1836
01:19:03,390 --> 01:19:07,090
Hør, jeg mener, jeg kender nogle
af dem bedre end andre.

1837
01:19:07,133 --> 01:19:10,136
Øh, jeg har mere selvtillid
i nogle af dem, end jeg har

1838
01:19:10,180 --> 01:19:12,356
i andre, du ved,
som med, som med alle mennesker.

1839
01:19:12,399 --> 01:19:14,140
du ved,
du tænker på, du ved,

1840
01:19:14,184 --> 01:19:15,838
børnene i dit gymnasium
klasse eller noget, ikke?

1841
01:19:15,881 --> 01:19:18,275
Du ved, nogle af dem er,
du ved, rigtig sød.

1842
01:19:18,318 --> 01:19:20,407
Nogle af dem er velmenende
men ikke så effektivt.

1843
01:19:20,451 --> 01:19:22,366
Nogle af dem er,
du ved, bøller.

1844
01:19:22,409 --> 01:19:23,759
Nogle af dem er
virkelig dårlige mennesker.

1845
01:19:23,802 --> 01:19:25,673
[stammer]
Du-du slags virkelig,

1846
01:19:25,717 --> 01:19:27,066
du ser virkelig spredningen.

1847
01:19:27,110 --> 01:19:28,807
Du ved, er jeg, er jeg,
er jeg sikker

1848
01:19:28,851 --> 01:19:30,548
som alle vil gøre
det rigtige,

1849
01:19:30,591 --> 01:19:32,028
at det hele kommer til at lykkes?

1850
01:19:32,071 --> 01:19:33,856
Øh, nej, det er jeg ikke.

1851
01:19:33,899 --> 01:19:35,509
Og der er - der er ingenting
Det kan jeg godt gøre ved, ikke?

1852
01:19:35,553 --> 01:19:37,773
Du ved, alt hvad jeg kan gøre
er-er skub for,

1853
01:19:37,816 --> 01:19:39,165
skubbe til, du ved,

1854
01:19:39,209 --> 01:19:40,776
presse på for regeringen
at engagere sig.

1855
01:19:40,819 --> 01:19:42,647
Men i sidste ende er jeg bare
en person der også.

1856
01:19:42,690 --> 01:19:44,127
det er--
det er-det er op til os alle

1857
01:19:44,170 --> 01:19:46,042
at presse på for regeringen
at engagere sig.

1858
01:19:46,085 --> 01:19:48,479
Det er nummer et
det - det synes jeg, vi skal gøre

1859
01:19:48,522 --> 01:19:50,916
to-to, du ved, at sætte tingene op
i den rigtige retning.

1860
01:19:50,960 --> 01:19:52,744
Hvad gør mig ængstelig
om det er, som

1861
01:19:52,788 --> 01:19:56,182
den grundlæggende virkelighed, som
hastighed, hvormed teknologien

1862
01:19:56,226 --> 01:19:58,402
spreder sig og vokser
er eksponentiel,

1863
01:19:58,445 --> 01:20:01,448
og mekanismerne til at lovgive
er 300 år,

1864
01:20:01,492 --> 01:20:02,928
- tage for evigt.
- Ja.

1865
01:20:02,972 --> 01:20:05,104
Øh, tror jeg
det bliver et tungt løft.

1866
01:20:05,148 --> 01:20:06,889
Jeg er helt enig
med dig på det.

1867
01:20:06,932 --> 01:20:08,891
DANIEL: Du ved,
hvad jeg bogstaveligt talt leder efter

1868
01:20:08,934 --> 01:20:11,241
er-er ligesom,
"Her er trin, som f.eks.

1869
01:20:11,284 --> 01:20:15,158
"hovedhonchoerne kommer til at gøre det
tage to-for at fokusere på sikkerhed,

1870
01:20:15,201 --> 01:20:18,117
for at afbøde faren
og maksimer løftet."

1871
01:20:18,161 --> 01:20:20,119
Og det gør jeg ikke,
Jeg ved det ikke, jeg ved det ikke

1872
01:20:20,163 --> 01:20:21,817
at der er
et simpelt svar på det.

1873
01:20:21,860 --> 01:20:23,296
Øh...

1874
01:20:25,951 --> 01:20:27,561
Jeg mener, det er det måske
for simpelt,

1875
01:20:27,605 --> 01:20:30,173
men du...

1876
01:20:30,216 --> 01:20:31,957
skabe en ny model,

1877
01:20:32,001 --> 01:20:34,786
du studerer og tester det
meget omhyggeligt.

1878
01:20:34,830 --> 01:20:37,223
Du lægger den ud
gradvist ud i verden,

1879
01:20:37,267 --> 01:20:39,530
og så, mere og mere,
du forstår

1880
01:20:39,573 --> 01:20:41,227
om det er sikkert eller ej,
og hvis det så er,

1881
01:20:41,271 --> 01:20:42,707
du kan tage det næste skridt.

1882
01:20:44,404 --> 01:20:47,103
Det lyder ikke så prangende
som en genial videnskabsmand

1883
01:20:47,146 --> 01:20:50,454
komme med én idé i en
laboratorium til at lave et AI-system, som,

1884
01:20:50,497 --> 01:20:53,979
helt sikker og kontrollerbar
og alt det andet,

1885
01:20:54,023 --> 01:20:55,720
men det er hvad jeg tror
kommer til at ske.

1886
01:20:55,763 --> 01:20:57,287
Ligesom det er vejen
Jeg tror, det her virker.

1887
01:20:57,330 --> 01:20:59,289
Men lad os bare sige
der sker noget frygteligt,

1888
01:20:59,332 --> 01:21:01,813
som en model bliver løs
eller går slyngel eller noget.

1889
01:21:01,857 --> 01:21:03,467
Er der en protokol?

1890
01:21:03,510 --> 01:21:05,817
Som, bogstaveligt talt,
Jeg forestiller mig en rød telefon.

1891
01:21:05,861 --> 01:21:07,123
- Ja.
- Undskyld jeg tænker på det her

1892
01:21:07,166 --> 01:21:08,515
med hensyn til film, men ligesom...

1893
01:21:08,559 --> 01:21:09,995
Der er en protokol.

1894
01:21:10,039 --> 01:21:11,475
- Er der en rød telefon
på dit skrivebord? -Ingen.

1895
01:21:11,518 --> 01:21:13,216
[griner]:
Er det en hemmelighed?

1896
01:21:13,259 --> 01:21:15,392
Jeg mener, øh, nej, det er det ikke,
det er ikke så fancy eller dramatisk

1897
01:21:15,435 --> 01:21:17,176
som du gerne ville håbe,
men der er ligesom, du ved...

1898
01:21:17,220 --> 01:21:18,874
vi har ligesom tænkt igennem
disse scenarier,

1899
01:21:18,917 --> 01:21:20,527
og hvis dette sker,
vi ringer til disse mennesker

1900
01:21:20,571 --> 01:21:21,964
i denne rækkefølge og gør dette

1901
01:21:22,007 --> 01:21:23,443
og slags fabrikat
disse beslutninger, hvis f.eks.--

1902
01:21:23,487 --> 01:21:26,055
Det tror jeg på
når du har mulighed

1903
01:21:26,098 --> 01:21:29,058
at gøre dine tanker før
en stressende situation opstår,

1904
01:21:29,101 --> 01:21:30,407
det er næsten altid
en god idé.

1905
01:21:30,450 --> 01:21:31,756
Og at skrive det ned er nyttigt.

1906
01:21:31,799 --> 01:21:33,279
- Det hjælper at være forberedt.
- Ja.

1907
01:21:34,324 --> 01:21:36,021
[suk] Du...

1908
01:21:36,065 --> 01:21:38,763
Det ville være umuligt
for mig at sidde overfor dig

1909
01:21:38,806 --> 01:21:41,157
og-og beder dig om at love mig
at det her kommer til at gå godt?

1910
01:21:41,200 --> 01:21:43,855
Det er umuligt.

1911
01:21:43,899 --> 01:21:45,683
Der er ingen nemme svar,
desværre.

1912
01:21:45,726 --> 01:21:48,077
Øh, fordi det er sådan
en banebrydende teknologi,

1913
01:21:48,120 --> 01:21:49,774
øh, der er stadig
en masse ubekendte.

1914
01:21:49,817 --> 01:21:52,255
Og det synes jeg
det skal det være,

1915
01:21:52,298 --> 01:21:55,040
øh, du ved, forstået

1916
01:21:55,084 --> 01:21:58,957
og - og dermed behovet
for, øh, øh, en vis forsigtighed.

1917
01:21:59,001 --> 01:22:00,872
Jeg vågner, du ved, hver dag,

1918
01:22:00,916 --> 01:22:03,440
dette er, dette er
nummer én ting jeg tænker på.

1919
01:22:03,483 --> 01:22:05,137
Se nu, jeg er et menneske,

1920
01:22:05,181 --> 01:22:08,358
og, du ved, har-har
hver beslutning været perfekt?

1921
01:22:08,401 --> 01:22:11,622
Kan jeg endda sige mine motiver
altid var helt klar?

1922
01:22:11,665 --> 01:22:13,537
Selvfølgelig ikke.
Det kan ingen sige.

1923
01:22:13,580 --> 01:22:16,366
Sådan, det er det
bare ikke, sådan som du ved...

1924
01:22:16,409 --> 01:22:18,629
det er-det er det bare ikke
hvordan mennesker arbejder.

1925
01:22:18,672 --> 01:22:21,023
Videnskabens historie
plejer at være det,

1926
01:22:21,066 --> 01:22:23,547
på godt og ondt,
hvis noget er muligt at gøre--

1927
01:22:23,590 --> 01:22:26,985
og vi ved nu, at AI er muligt
at gøre - menneskeheden gør det.

1928
01:22:27,029 --> 01:22:29,727
Alt dette
skulle ske.

1929
01:22:29,770 --> 01:22:32,295
Dette - dette tog
vil ikke stoppe.

1930
01:22:32,338 --> 01:22:34,253
Du kan ikke træde foran
toget og standser det.

1931
01:22:34,297 --> 01:22:36,255
Du bliver bare klemt.

1932
01:22:36,299 --> 01:22:38,388
ALTMAN:
Jeg mener, det er meget stressende.

1933
01:22:39,606 --> 01:22:41,043
Du ved, der er ligesom

1934
01:22:41,086 --> 01:22:42,653
en masse ting
mange af os ved det ikke.

1935
01:22:42,696 --> 01:22:46,352
Jeg tror historien
af videnskabelig opdagelse er

1936
01:22:46,396 --> 01:22:48,267
en af ikke at vide
hvad du ikke ved

1937
01:22:48,311 --> 01:22:49,660
og finde ud af, mens du går.

1938
01:22:49,703 --> 01:22:52,968
Øh, men ja, det er en...

1939
01:22:53,011 --> 01:22:56,580
det er en stressende måde at leve på.

1940
01:22:56,623 --> 01:22:58,756
DANIEL: Ja. Sam, tak
meget for at gøre dette.

1941
01:22:58,799 --> 01:23:00,497
-Og igen, mazel tov.
- Tak skal du have. Og til dig.

1942
01:23:00,540 --> 01:23:02,673
Mange tak. Tak, gutter.

1943
01:23:02,716 --> 01:23:05,458
♪ ♪

1944
01:23:07,678 --> 01:23:08,984
[suk]

1945
01:23:10,986 --> 01:23:13,162
[elektricitet knitrende]

1946
01:23:13,205 --> 01:23:15,599
-[torden revner]
-[sukker, grynter]

1947
01:23:42,626 --> 01:23:44,628
-[VCR-klik]
-[linje ringer]

1948
01:23:47,848 --> 01:23:49,285
-[linjeklik]
-KEVIN ROHER: Hej.

1949
01:23:49,328 --> 01:23:50,547
DANIEL:
Hej, far, hvordan har du det?

1950
01:23:50,590 --> 01:23:51,591
KEVIN:
Godt. Hvordan har du det?

1951
01:23:51,635 --> 01:23:53,071
Arbejder du? Hvad har du gang i?

1952
01:23:53,115 --> 01:23:55,247
DANIEL:
Jeg arbejder på denne AI-film.

1953
01:23:55,291 --> 01:23:57,815
KEVIN:
Og hvordan går det?

1954
01:23:57,858 --> 01:24:00,426
DANIEL:
Du ved, det... det er virkelig...

1955
01:24:00,470 --> 01:24:02,167
-JOANNE ROHER: Hej, søde.
-DANIEL: Hej, mor.

1956
01:24:02,211 --> 01:24:03,864
JOANNE: Så hvad er det
filmens præmis?

1957
01:24:03,908 --> 01:24:06,519
Er det en dokumentar?
Kev, brug ikke flere krydderier.

1958
01:24:06,563 --> 01:24:08,304
Det er allerede overkrydret.

1959
01:24:08,347 --> 01:24:10,436
Vi laver kylling lige nu.

1960
01:24:10,480 --> 01:24:12,612
-Er det en dokumentar eller hvad...
-DANIEL: Det handler om--

1961
01:24:12,656 --> 01:24:13,961
filmen handler om
verdens ende.

1962
01:24:14,005 --> 01:24:15,789
Enden på verdens komme,

1963
01:24:15,833 --> 01:24:17,574
og vi laver en film
om verdens ende.

1964
01:24:17,617 --> 01:24:19,837
- JOANNE: Virkelig?
- DANIEL: Ja.

1965
01:24:19,880 --> 01:24:21,578
KEVIN: Lidt deprimerende
film, lyder det som.

1966
01:24:21,621 --> 01:24:23,449
JOANNE:
Ja.

1967
01:24:23,493 --> 01:24:28,976
DANIEL: Jeg føler meget,
som-- denne meget akutte angst.

1968
01:24:29,020 --> 01:24:31,370
JOANNE: Det er så skræmmende,
men der skal være--

1969
01:24:31,414 --> 01:24:35,287
du ved, har du mødtes
nogle-nogle supersmarte mennesker

1970
01:24:35,331 --> 01:24:37,768
som giver dig nogle svar?

1971
01:24:37,811 --> 01:24:39,465
DANIEL: Det er det, der er
frustrerende over det.

1972
01:24:39,509 --> 01:24:41,337
Ingen ved det.

1973
01:24:41,380 --> 01:24:43,904
JOANNE:
Det eneste, jeg kan sige til det, er det

1974
01:24:43,948 --> 01:24:49,867
hver generation har haft
sådan noget skræmmende.

1975
01:24:49,910 --> 01:24:52,217
KEVIN: Da jeg blev født, var det
Cubakrisen.

1976
01:24:52,261 --> 01:24:54,263
[stabilt hjerteslag]

1977
01:24:54,306 --> 01:24:56,352
Det var jeg bare bange for der
ville blive en atomkrig.

1978
01:24:56,395 --> 01:24:57,744
JOANNE:
Ja, men vi vidste det ikke

1979
01:24:57,788 --> 01:24:59,094
hvad de ville gøre og...

1980
01:24:59,137 --> 01:25:00,530
KEVIN:
Og verden sluttede ikke.

1981
01:25:00,573 --> 01:25:01,618
Alle vågnede
næste morgen,

1982
01:25:01,661 --> 01:25:03,402
og vi gør stadig vores ting.

1983
01:25:03,446 --> 01:25:04,969
DANIEL:
Jeg er meget bange,

1984
01:25:05,012 --> 01:25:06,840
især i
konteksten af f.eks.

1985
01:25:06,884 --> 01:25:09,147
- du ved, babyen og...
-[fosterets hjerteslag pulserer]

1986
01:25:09,191 --> 01:25:10,540
KEVIN:
Det bliver en læringskurve.

1987
01:25:10,583 --> 01:25:12,063
JOANNE:
Du bliver okay.

1988
01:25:12,107 --> 01:25:13,064
KEVIN: Det kan du ikke,
kan du ikke tænke på

1989
01:25:13,108 --> 01:25:14,326
hvad du ikke kan kontrollere, Daniel.

1990
01:25:14,370 --> 01:25:16,154
Bare husk det.

1991
01:25:16,198 --> 01:25:17,677
DANIEL [stemmebrud]:
Jeg er virkelig, jeg føler virkelig

1992
01:25:17,721 --> 01:25:19,201
nervøs og bange for det.

1993
01:25:19,244 --> 01:25:21,028
Der er så meget
som jeg ikke kan kontrollere.

1994
01:25:21,072 --> 01:25:23,857
KEVIN: Vær ikke nervøs.
Du kan ikke lade det komme til dig.

1995
01:25:23,901 --> 01:25:26,251
Du kan kun kontrollere
hvad du kan kontrollere,

1996
01:25:26,295 --> 01:25:27,905
og det er alt hvad du kan gøre.

1997
01:25:27,948 --> 01:25:30,603
Du kan ikke gøre mere end det.

1998
01:25:30,647 --> 01:25:32,649
Skriv det ned i din bog.

1999
01:25:35,347 --> 01:25:36,870
♪ ♪

2000
01:25:44,095 --> 01:25:46,663
[fosterets hjerteslag pulserer]

2001
01:25:46,706 --> 01:25:49,231
[hylende]

2002
01:25:49,274 --> 01:25:51,581
CAROLINE:
Når du ser tilbage,

2003
01:25:51,624 --> 01:25:54,453
verden er altid ved at ende.

2004
01:25:54,497 --> 01:25:56,803
Og når man ser fremad,

2005
01:25:56,847 --> 01:25:59,241
verden er altid ved at ende.

2006
01:25:59,284 --> 01:26:02,157
... i brand.
Et hjem er allerede i brand...

2007
01:26:02,200 --> 01:26:05,377
CAROLINE: Men verden
starter også altid.

2008
01:26:07,988 --> 01:26:09,947
DANIEL:
Er du klar?

2009
01:26:09,990 --> 01:26:11,992
Er du nogensinde virkelig klar?

2010
01:26:15,909 --> 01:26:17,650
DANIEL: Du vil køre
eller vil du have mig til at køre?

2011
01:26:17,694 --> 01:26:18,782
CAROLINE:
Du kører.

2012
01:26:20,479 --> 01:26:21,828
-[kvinde taler utydeligt]
-CAROLINE: Okay.

2013
01:26:21,872 --> 01:26:23,700
DANIEL:
Tak, Maria.

2014
01:26:23,743 --> 01:26:26,268
KVINDE: Det bliver bare
føler mig virkelig krampagtig.

2015
01:26:26,311 --> 01:26:27,791
-CAROLINE: Okay.
- KVINDE: Er du klar?

2016
01:26:27,834 --> 01:26:29,053
-CAROLINE: Ja.
-[utydelig snak]

2017
01:26:29,096 --> 01:26:30,924
[Caroline sukker tungt]

2018
01:26:30,968 --> 01:26:32,404
KVINDE: Du kunne være i en
medicinsk drama med alt det...

2019
01:26:33,840 --> 01:26:35,842
♪ ♪

2020
01:26:44,329 --> 01:26:45,896
-[statiske knitren]
-[utydelig snak]

2021
01:26:49,116 --> 01:26:51,075
KVINDE:
...et pres.

2022
01:26:52,685 --> 01:26:54,078
Bare slap af.

2023
01:26:56,907 --> 01:26:59,214
-[baby græder]
-[enheden bipper]

2024
01:27:02,129 --> 01:27:04,915
DANIEL:
Hej kammerat. Åh.

2025
01:27:04,958 --> 01:27:06,438
Hej kammerat.

2026
01:27:06,482 --> 01:27:08,484
♪ ♪

2027
01:27:31,202 --> 01:27:33,683
KEVIN:
Det bliver en helt ny verden

2028
01:27:33,726 --> 01:27:35,032
til dig, Daniel.

2029
01:27:37,208 --> 01:27:40,080
Og det tror jeg, du bliver
en fantastisk far.

2030
01:27:41,517 --> 01:27:44,346
JOANNE [griner]:
Det er helt sikkert.

2031
01:27:44,389 --> 01:27:46,609
-[Kevin græder]
- Åh.

2032
01:27:46,652 --> 01:27:48,654
[gråden fortsætter]

2033
01:27:48,698 --> 01:27:50,787
KEVIN:
Du vil gøre et godt stykke arbejde.

2034
01:27:51,788 --> 01:27:53,050
JOANNE:
Kev, hvorfor græder du?

2035
01:27:53,093 --> 01:27:54,617
KEVIN:
Jeg græder fordi...

2036
01:27:54,660 --> 01:27:57,054
Jeg ved det ikke. Jeg gør bare ikke...

2037
01:27:57,097 --> 01:27:59,317
DANIEL: Far, det vil du
få mig også til at græde.

2038
01:27:59,361 --> 01:28:00,710
Hvorfor græder du?

2039
01:28:03,190 --> 01:28:05,497
KEVIN: Jeg ved det bare
du bliver en fantastisk far.

2040
01:28:05,541 --> 01:28:07,107
DANIEL [græder]:
Jeg bliver kun en god far

2041
01:28:07,151 --> 01:28:09,675
fordi jeg havde en fantastisk far.

2042
01:28:09,719 --> 01:28:12,287
KEVIN: Jeg bliver følelsesladet,
det er alt.

2043
01:28:12,330 --> 01:28:13,679
JOANNE:
Åh.

2044
01:28:13,723 --> 01:28:14,898
[legende snak over video]

2045
01:28:14,941 --> 01:28:16,552
[over video]:
Dreng, oh, dreng!

2046
01:28:16,595 --> 01:28:17,857
min godhed!

2047
01:28:18,902 --> 01:28:20,817
Se på de små frække.

2048
01:28:20,860 --> 01:28:24,777
Se på de små frække.
Se på de små frække.

2049
01:28:24,821 --> 01:28:26,344
Ja.

2050
01:28:26,388 --> 01:28:28,433
DANIEL:
Jeg ved, hvordan man afslutter denne film.

2051
01:28:29,478 --> 01:28:32,263
Babyer.

2052
01:28:32,307 --> 01:28:35,266
- Slutningen af filmen handler om
babyer.-[snak over videoer]

2053
01:28:35,310 --> 01:28:37,094
De er livsbekræftende.

2054
01:28:37,137 --> 01:28:38,922
De er udmattende.

2055
01:28:38,965 --> 01:28:40,793
-[baby griner]
- De er sjove.

2056
01:28:40,837 --> 01:28:42,665
Og de er det værd.

2057
01:28:42,708 --> 01:28:46,451
Denne film handler ikke om
teknologiens indre funktioner.

2058
01:28:46,495 --> 01:28:48,235
Det handler ikke om
milliardærens administrerende direktører.

2059
01:28:48,279 --> 01:28:50,194
Det handler ikke om geopolitik.

2060
01:28:50,237 --> 01:28:53,589
Det handler ikke om det skræmmende
fremtiden eller verdens ende,

2061
01:28:53,632 --> 01:28:55,678
fordi min verden
er lige begyndt.

2062
01:28:55,721 --> 01:28:57,375
Jeg bygger en tremmeseng.

2063
01:28:57,419 --> 01:28:59,290
Lige her, lige nu.

2064
01:28:59,334 --> 01:29:00,465
[baby kurrer]

2065
01:29:00,509 --> 01:29:02,337
AI vil ændre alt

2066
01:29:02,380 --> 01:29:05,601
på måder for kraftfuld og
kompliceret for os at forstå.

2067
01:29:05,644 --> 01:29:08,952
Og det er fremtiden ikke
for nogen af os at bestemme.

2068
01:29:10,736 --> 01:29:13,609
Men det, jeg kan bestemme, er at være
den bedst mulige mand

2069
01:29:13,652 --> 01:29:17,700
for min kone og den bedste
mulig far til min søn.

2070
01:29:17,743 --> 01:29:21,399
Så om vores AI fremtid er
en mareridtsagtig dystopi

2071
01:29:21,443 --> 01:29:23,836
eller utopien
som vi alle drømmer om,

2072
01:29:23,880 --> 01:29:26,883
Det ved jeg i hvert fald
at jeg gjorde alt, hvad jeg kunne

2073
01:29:26,926 --> 01:29:30,103
at vejlede min familie
gennem denne AI-revolution.

2074
01:29:30,147 --> 01:29:33,846
Og lige meget hvad,
vi skal møde det sammen.

2075
01:29:33,890 --> 01:29:35,195
[opløftende musik svulmer]

2076
01:29:35,239 --> 01:29:36,806
[musik stopper brat]

2077
01:29:36,849 --> 01:29:40,505
DANIEL:
Så det er bare vores første idé.

2078
01:29:40,549 --> 01:29:42,812
Hvordan føles dette?
Føler du det?

2079
01:29:42,855 --> 01:29:45,249
Vent, jeg-- ligesom, det er ikke--
dette er en joke.

2080
01:29:45,292 --> 01:29:47,425
Det er det faktisk ikke
hvordan du vil afslutte det.

2081
01:29:50,036 --> 01:29:52,648
Jeg mener, det er bare en idé. Okay?

2082
01:29:52,691 --> 01:29:54,389
Nej, Daniel.

2083
01:29:54,432 --> 01:29:56,129
... øh, meget, meget dumt.

2084
01:29:56,173 --> 01:29:58,915
Du har lige brugt, det gør jeg ikke
ved, hvor mange år

2085
01:29:58,958 --> 01:30:02,571
af vores liv arbejder på dette,
taler med alle førende eksperter

2086
01:30:02,614 --> 01:30:04,964
på planeten om emnet,

2087
01:30:05,008 --> 01:30:07,663
og du vil afslutte det

2088
01:30:07,706 --> 01:30:10,796
med nogle, som
kumbaya lort?

2089
01:30:10,840 --> 01:30:13,495
Der er en asteroide
på vej til Jorden.

2090
01:30:13,538 --> 01:30:15,497
Hvad laver du? Bare...

2091
01:30:15,540 --> 01:30:17,629
holde i hånden
og håber det lykkes?

2092
01:30:17,673 --> 01:30:19,414
Absolut ikke.

2093
01:30:19,457 --> 01:30:22,286
Vi er nødt til--det ha--
det skal være...

2094
01:30:22,329 --> 01:30:24,419
Slutningen skal...

2095
01:30:25,855 --> 01:30:27,900
CAROLINE:
Okay, første ting:

2096
01:30:27,944 --> 01:30:31,426
AI er her,
og det er kommet for at blive.

2097
01:30:31,469 --> 01:30:32,905
lortet er ude af hesten,

2098
01:30:32,949 --> 01:30:35,430
men det er hesten
bliver ved med at skide.

2099
01:30:38,171 --> 01:30:39,651
[publikum jubler]

2100
01:30:39,695 --> 01:30:41,566
Du ved, en af de grundlæggende
historiens love

2101
01:30:41,610 --> 01:30:44,003
er det ingenting
virkelig have en begyndelse

2102
01:30:44,047 --> 01:30:45,962
og intet har nogen ende.

2103
01:30:46,005 --> 01:30:47,703
Det fortsætter bare.

2104
01:30:47,746 --> 01:30:50,532
AI er ikke i nærheden
dens fulde udvikling.

2105
01:30:50,575 --> 01:30:52,795
CAROLINE: Selv hvis
den nuværende AI-boble brister,

2106
01:30:52,838 --> 01:30:54,579
- Mennesker vil aldrig stoppe
-[noisemaker blæser]

2107
01:30:54,623 --> 01:30:57,539
bygger mere og mere
kraftfuld teknologi.

2108
01:30:57,582 --> 01:30:59,410
HAO:
Du kan vælge ikke at bruge AI

2109
01:30:59,454 --> 01:31:02,239
eller deltage i det, men det er det
vil påvirke dig alligevel.

2110
01:31:02,282 --> 01:31:04,023
DANIEL: Okay, fantastisk.
Så vi er skruet sammen.

2111
01:31:04,067 --> 01:31:06,635
CAROLINE: Nej, det er vi ikke
på grund af en simpel ting.

2112
01:31:10,943 --> 01:31:12,989
Dette er ikke uundgåeligt.

2113
01:31:13,032 --> 01:31:15,208
Hvis vi bare kunne se det
klart sammen,

2114
01:31:15,252 --> 01:31:18,342
det åbenlyse svar vil være
at vælge noget andet.

2115
01:31:18,385 --> 01:31:21,040
Det skal vi meget klart
ændre spillet

2116
01:31:21,084 --> 01:31:23,129
fra et kapløb til bunden
ind i et kapløb til toppen.

2117
01:31:23,173 --> 01:31:27,438
LEAHY: Det problem, vi skal
solve er ikke AI specifikt.

2118
01:31:27,482 --> 01:31:31,224
Det er det generelle spørgsmål
hvordan bygger vi et samfund

2119
01:31:31,268 --> 01:31:33,879
der kan håndtere
kraftfuld teknologi.

2120
01:31:33,923 --> 01:31:35,359
Fordi vi får

2121
01:31:35,402 --> 01:31:36,795
kun mere og mere kraftfuld
teknologi.

2122
01:31:36,839 --> 01:31:39,668
CAROLINE:
Vi skal opgradere vores samfund,

2123
01:31:39,711 --> 01:31:41,496
og det første skridt er
kommer sammen

2124
01:31:41,539 --> 01:31:43,367
-og krævende...
-ALLE: Koordinering.

2125
01:31:43,410 --> 01:31:47,023
En eller anden form for international
samarbejde eller aftale om

2126
01:31:47,066 --> 01:31:48,503
hvad normerne skal være.

2127
01:31:48,546 --> 01:31:49,895
Du ved, hvordan skulle
de sættes ind...

2128
01:31:49,939 --> 01:31:51,549
Sådan rigtig
internationalt diplomati

2129
01:31:51,593 --> 01:31:53,290
blandt supermagterne.

2130
01:31:53,333 --> 01:31:56,293
Kineserne er lige så bekymrede
om det som amerikanerne.

2131
01:31:56,336 --> 01:31:57,729
Jeg synes det er svært,
du ved,

2132
01:31:57,773 --> 01:31:59,514
i strømmen
geopolitisk klima,

2133
01:31:59,557 --> 01:32:01,254
- men jeg tror, det er nødvendigt.
-RASKIN: Absolut.

2134
01:32:01,298 --> 01:32:04,693
På nøjagtig samme måde
sidste gang, at menneskeheden

2135
01:32:04,736 --> 01:32:09,611
udviklet en teknologi
det her farlige...

2136
01:32:09,654 --> 01:32:12,396
...der krævede en komplet,
hidtil uset skift

2137
01:32:12,439 --> 01:32:15,530
til strukturen i vores verden.

2138
01:32:15,573 --> 01:32:17,619
CAROLINE:
Så vi skal gøre det fuldstændigt,

2139
01:32:17,662 --> 01:32:20,883
hidtil uset skifte igen.

2140
01:32:20,926 --> 01:32:24,103
Du ved, vi-vi taler med folk
som arbejder hos disse AI-virksomheder,

2141
01:32:24,147 --> 01:32:25,322
og de siger, de vil gøre
noget andet,

2142
01:32:25,365 --> 01:32:26,628
men de har brug for offentligt pres.

2143
01:32:26,671 --> 01:32:28,151
De har brug for regeringen
at gøre noget.

2144
01:32:28,194 --> 01:32:29,979
Så tager vi til DC,
og de siger,

2145
01:32:30,022 --> 01:32:31,850
"Nå, vi har brug for Silicon Valley
at gøre noget anderledes.

2146
01:32:31,894 --> 01:32:33,635
Det er dem, der skal
kom med autoværnene."

2147
01:32:33,678 --> 01:32:35,680
Og så peger alle
fingeren til en anden,

2148
01:32:35,724 --> 01:32:39,466
og det de er enige om er
at vi har brug for offentligt pres

2149
01:32:39,510 --> 01:32:41,207
for noget andet
at ske.

2150
01:32:41,251 --> 01:32:42,818
Og det er hvad du

2151
01:32:42,861 --> 01:32:44,254
og alle mennesker
at se denne film kan gøre.

2152
01:32:44,297 --> 01:32:45,298
CAROLINE:
Vi skal holde på lederne

2153
01:32:45,342 --> 01:32:47,083
i vores regeringer

2154
01:32:47,126 --> 01:32:48,563
og lederne af
disse virksomheder ansvarlige.

2155
01:32:48,606 --> 01:32:51,000
BOEREE:
Uanset hvilket land du er i,

2156
01:32:51,043 --> 01:32:52,871
lad dem vide det
at du ikke er glad

2157
01:32:52,915 --> 01:32:54,569
med den nuværende status quo.

2158
01:32:54,612 --> 01:32:57,093
Så ja, det er kedeligt at sige
ring til din kongresmedlem.

2159
01:32:57,136 --> 01:32:59,356
Jeg siger ikke, at du skal
bare gør det, men ligesom,

2160
01:32:59,399 --> 01:33:00,923
det er vi nødt til at gøre.

2161
01:33:00,966 --> 01:33:02,402
Vi skal ligesom få
den involverede regering.

2162
01:33:02,446 --> 01:33:03,839
DANIEL: Så vi bare
ring til dem og sig:

2163
01:33:03,882 --> 01:33:05,971
"Hej, stop Big Tech
fra at ødelægge verden"?

2164
01:33:06,015 --> 01:33:08,887
CAROLINE: Nej, men det er der
tonsvis af virkelig indlysende,

2165
01:33:08,931 --> 01:33:10,672
ligetil ting
vi kan være krævende.

2166
01:33:10,715 --> 01:33:12,499
Vi har brug for gennemsigtighed.

2167
01:33:12,543 --> 01:33:14,240
Vi er nødt til at afslutte hemmeligholdelsen
der findes inde i disse laboratorier,

2168
01:33:14,284 --> 01:33:16,634
fordi de bygger
kraftfuld teknologi,

2169
01:33:16,678 --> 01:33:18,680
og offentligheden fortjener at vide
hvad sker der.

2170
01:33:18,723 --> 01:33:20,682
I sidste ende,
vi får brug for uafhængige,

2171
01:33:20,725 --> 01:33:23,249
objektive tredjeparter
at evaluere systemerne.

2172
01:33:23,293 --> 01:33:27,036
Vi kan ikke regne med virksomhederne
at bedømme deres egne lektier.

2173
01:33:27,079 --> 01:33:31,170
Hvis-hvis en virksomhed bruger AI og-og
har AI interagerer med dig,

2174
01:33:31,214 --> 01:33:34,957
det skal afsløre, at du er
interagere med et AI-system.

2175
01:33:35,000 --> 01:33:38,613
Ja. Og-og også vi har brug for
et system, der gør virksomheder

2176
01:33:38,656 --> 01:33:41,833
juridisk ansvarlig for
AI-systemer, som de producerer.

2177
01:33:41,877 --> 01:33:45,750
Det skal vi sørge for der
er test og sikkerhedsstandarder

2178
01:33:45,794 --> 01:33:48,013
der gælder for alle.

2179
01:33:48,057 --> 01:33:49,711
Vi har brug for nogle grundregler,

2180
01:33:49,754 --> 01:33:51,538
og vi skal blive ved med at tilpasse os
disse regler

2181
01:33:51,582 --> 01:33:54,585
med den hastighed, der
teknologien udvikler sig.

2182
01:33:54,629 --> 01:33:57,153
LEAHY: Der er pt
mere regulering

2183
01:33:57,196 --> 01:33:59,285
på at sælge en sandwich
til offentligheden

2184
01:33:59,329 --> 01:34:02,898
end der er på at bygge
potentielt verdensomspændende AGI.

2185
01:34:02,941 --> 01:34:04,682
CAROLINE:
Og det sidste er

2186
01:34:04,726 --> 01:34:07,598
at opgradere os selv.

2187
01:34:07,642 --> 01:34:09,731
Dette er ikke, ligesom, jobbet
af, ligesom sikkerhedsteamet

2188
01:34:09,774 --> 01:34:11,733
på et givet laboratorium eller den administrerende direktør.

2189
01:34:11,776 --> 01:34:13,299
Så sådan er det her
alles job.

2190
01:34:13,343 --> 01:34:14,779
Lad være med at forlade det
op til AI-eksperterne.

2191
01:34:14,823 --> 01:34:16,955
Ligesom, [bip] det.
Ligesom dette er øjeblikket

2192
01:34:16,999 --> 01:34:19,262
at vi skifter
fra, som

2193
01:34:19,305 --> 01:34:21,525
mest menneskelig kognitiv kraft
til, ligesom, AI kognitiv kraft,

2194
01:34:21,568 --> 01:34:23,092
og det påvirker alle,

2195
01:34:23,135 --> 01:34:24,833
og jeg ønsker, at folk skal være det
med i den samtale.

2196
01:34:24,876 --> 01:34:26,878
Og jeg vil sige, hvis du tænker
at AI vil dræbe os alle,

2197
01:34:26,922 --> 01:34:28,488
du burde arbejde
i AI-forskning

2198
01:34:28,532 --> 01:34:30,229
for at sikre, at det ikke gør det,
fordi du har

2199
01:34:30,273 --> 01:34:32,188
en enorm mængde agentur.

2200
01:34:32,231 --> 01:34:33,842
CAROLINE:
Hvem du end er,

2201
01:34:33,885 --> 01:34:35,844
du er en ekspert
i din egen branche,

2202
01:34:35,887 --> 01:34:39,151
i din egen skole,
i din egen familie,

2203
01:34:39,195 --> 01:34:42,589
og det er op til dig
hvordan AI bruges i dit liv.

2204
01:34:42,633 --> 01:34:44,983
Om du vil være med
din skolebestyrelse

2205
01:34:45,027 --> 01:34:47,856
eller-eller om du vil spørge
din arbejdsgiver

2206
01:34:47,899 --> 01:34:49,379
hvordan de bruger
AI-teknologier,

2207
01:34:49,422 --> 01:34:51,947
ligesom vi alle kan gøre arbejdet.

2208
01:34:51,990 --> 01:34:56,081
Det har mange fagforeninger været
ret effektiv til f.eks.

2209
01:34:56,125 --> 01:34:59,041
bestemme, hvordan de vil
at interagere med disse systemer.

2210
01:34:59,084 --> 01:35:02,697
-Sygeplejerskeforbund, lærerforbund.
-[utydelig sang]

2211
01:35:02,740 --> 01:35:04,568
DANIELA AMODEI: Jeg ville elske
hvis forældre overalt

2212
01:35:04,611 --> 01:35:06,135
gik til AI-virksomhederne
og sagde,

2213
01:35:06,178 --> 01:35:08,006
"Hvordan kan du blive bedre
på dette?" Inklusiv os.

2214
01:35:08,050 --> 01:35:11,183
Så jeg grundlagde Encode Justice
da jeg var 15 år gammel.

2215
01:35:11,227 --> 01:35:14,839
Vi er verdens første
og største hær af unge mennesker

2216
01:35:14,883 --> 01:35:18,364
kæmper for menneskecentreret
kunstig intelligens.

2217
01:35:18,408 --> 01:35:21,019
Det er lige meget hvem du er,
selv de mindste handlinger hjælper,

2218
01:35:21,063 --> 01:35:23,935
og endda samtale starter
er virkelig, virkelig værdifuld.

2219
01:35:23,979 --> 01:35:25,937
DANIEL:
Så mit job kunne være, som

2220
01:35:25,981 --> 01:35:27,939
Fortæl Bubby Lila om dette
til middag?

2221
01:35:27,983 --> 01:35:29,767
CAROLINE: Helt ærligt, ja,
det er en del af det.

2222
01:35:29,811 --> 01:35:31,638
Og det bliver vi nødt til at gøre

2223
01:35:31,682 --> 01:35:34,424
en masse ting, der
har vi ikke engang tænkt på endnu.

2224
01:35:34,467 --> 01:35:36,034
Folk vil se på
alt, hvad vi har skitseret

2225
01:35:36,078 --> 01:35:37,253
og sige: "Det er ikke nok."

2226
01:35:37,296 --> 01:35:38,950
Det, der betyder noget, er, at kræfterne

2227
01:35:38,994 --> 01:35:40,909
der virker
mod løsninger

2228
01:35:40,952 --> 01:35:44,434
begynde at overskride de kræfter, der
arbejder imod løsninger.

2229
01:35:44,477 --> 01:35:46,392
At gøre verden bedre
har altid været hårdt.

2230
01:35:46,436 --> 01:35:47,829
Det har aldrig været nemt.

2231
01:35:47,872 --> 01:35:49,961
Der har ligesom været
mange lorte ting

2232
01:35:50,005 --> 01:35:51,920
der er sket i historien,
og vi har haft--

2233
01:35:51,963 --> 01:35:53,704
som folk har haft
at håndtere det,

2234
01:35:53,748 --> 01:35:56,794
og så har de rejst sig
og ændrede det.

2235
01:35:56,838 --> 01:36:00,319
Der er et sindssygt antal
udfordringer foran os,

2236
01:36:00,363 --> 01:36:04,106
men hvis vi kan komme forbi dem,

2237
01:36:04,149 --> 01:36:08,066
vi kan låse op for en fremtid hinsides
vores vildeste fantasi.

2238
01:36:08,110 --> 01:36:10,416
CAROLINE:
Vi er nødt til at komme sammen

2239
01:36:10,460 --> 01:36:14,246
og finde vejen imellem
løftet og faren.

2240
01:36:14,290 --> 01:36:16,422
Vi kan ikke være pessimister
eller optimister.

2241
01:36:17,423 --> 01:36:19,425
Vi skal blive noget nyt.

2242
01:36:21,732 --> 01:36:24,474
En af mine venner ringer til mig
en apokaloptimist.

2243
01:36:24,517 --> 01:36:26,041
"Apokaloptimist"?

2244
01:36:26,084 --> 01:36:28,260
Det tror jeg måske
mit nye yndlingsord.

2245
01:36:28,304 --> 01:36:29,914
-[griner] -MAN: Måske
navnet på denne film.

2246
01:36:29,958 --> 01:36:31,263
- Det kan være navnet
af denne film. -[latter]

2247
01:36:31,307 --> 01:36:34,179
- "Apokaloptimist."
- "Apokaloptimist."

2248
01:36:34,223 --> 01:36:35,833
Ja.

2249
01:36:35,877 --> 01:36:37,269
Jeg tror ikke på undergang.

2250
01:36:37,313 --> 01:36:39,054
Jeg tror på livets ånd,

2251
01:36:39,097 --> 01:36:42,666
og det tror jeg på livet
om handleevnen.

2252
01:36:42,709 --> 01:36:44,276
-[publikumsang]
- Evnen til at relatere,

2253
01:36:44,320 --> 01:36:46,365
evnen til at føle.

2254
01:36:49,020 --> 01:36:50,979
-[indistinct mission chatter]
-[jubel]

2255
01:36:51,022 --> 01:36:53,938
Vi er nødt til at fordoble
mere og mere

2256
01:36:53,982 --> 01:36:57,028
på disse kapaciteter
som vi har som mennesker

2257
01:36:57,072 --> 01:37:00,118
at robotsystemer
aldrig vil have.

2258
01:37:00,162 --> 01:37:04,296
Det er tid lige nu
at træffe de beslutninger om

2259
01:37:04,340 --> 01:37:07,473
hvordan man guider det og støtter det
i stedet for at dele os.

2260
01:37:07,517 --> 01:37:10,259
DANIEL: Det lyder lidt som
opdrage et barn.

2261
01:37:10,302 --> 01:37:12,435
Det er, hvad der sker. Ja.

2262
01:37:12,478 --> 01:37:14,480
CAROLINE: AI kan have
mere rå intelligens

2263
01:37:14,524 --> 01:37:17,222
-end vores små menneskelige hjerner,
-[baby griner]

2264
01:37:17,266 --> 01:37:21,052
men vi er så meget mere
end blot vores intelligens.

2265
01:37:21,096 --> 01:37:25,056
Intelligens er-er
evnen til at løse problemer.

2266
01:37:25,100 --> 01:37:28,320
Visdom er evnen til at vide
hvilke problemer der skal løses.

2267
01:37:30,932 --> 01:37:33,717
[utydelig besætningssnak]

2268
01:37:33,760 --> 01:37:34,892
DANIEL:
Det kan stå på dit køleskab.

2269
01:37:34,936 --> 01:37:36,198
[griner]

2270
01:37:36,241 --> 01:37:38,113
YUDKOWSKY:
Så giv ikke op.

2271
01:37:38,156 --> 01:37:39,766
Det har menneskeheden gjort

2272
01:37:39,810 --> 01:37:42,160
sværere ting end dette
i sin historie.

2273
01:37:43,553 --> 01:37:46,338
Det er bare svært at overbevise
mennesker, som de burde.

2274
01:37:46,382 --> 01:37:48,645
♪ ♪

2275
01:37:51,474 --> 01:37:52,562
[lyden krakelerer]

2276
01:37:54,912 --> 01:37:56,827
DANIEL: Så da jeg startede
laver denne film,

2277
01:37:56,871 --> 01:37:58,437
Jeg vil sige, at jeg var, som

2278
01:37:58,481 --> 01:38:00,918
stort set et kynisk røvhul
om det hele.

2279
01:38:00,962 --> 01:38:03,094
I løbet af forløbet
at lave filmen,

2280
01:38:03,138 --> 01:38:04,661
Jeg er kommet til at forstå
det, som

2281
01:38:04,704 --> 01:38:07,446
det er det eneste
det kan vi ikke være.

2282
01:38:07,490 --> 01:38:09,361
...eller noget andet
vil du diskutere?

2283
01:38:09,405 --> 01:38:11,363
Nej. Jeg tror, ​​vi dækkede meget.

2284
01:38:11,407 --> 01:38:13,017
- Ja. [griner]
-MAN: Mange tak.

2285
01:38:13,061 --> 01:38:15,498
Tak.

2286
01:38:15,541 --> 01:38:16,891
DANIEL:
Dette er et problem, der er større

2287
01:38:16,934 --> 01:38:19,067
end nogen person.

2288
01:38:19,110 --> 01:38:21,547
Dette vil ændre verden
måder, vi ikke forstår.

2289
01:38:21,591 --> 01:38:23,462
Det er alt sammen sandt.

2290
01:38:23,506 --> 01:38:25,551
-[griner]: Okay.
-[utydelig snak]

2291
01:38:25,595 --> 01:38:27,684
DANIEL:
Men hvad vi har agentur over

2292
01:38:27,727 --> 01:38:30,078
er hvad vi gør ved det.

2293
01:38:30,121 --> 01:38:32,558
I takt med at grænseoverskridende AI vokser
eksponentielt dygtigere...

2294
01:38:32,602 --> 01:38:34,430
DANIEL:
Og virkeligheden

2295
01:38:34,473 --> 01:38:36,562
er det, hvis vi bare bestemmer os
det er håbløst,

2296
01:38:36,606 --> 01:38:39,000
så er det håbløst.

2297
01:38:39,043 --> 01:38:40,740
...for at lægge mindre stress
på planeten Jorden...

2298
01:38:40,784 --> 01:38:42,742
DANIEL:
Men hvis du bestemmer dig

2299
01:38:42,786 --> 01:38:45,528
som du vil prøve...

2300
01:38:46,790 --> 01:38:48,096
...så prøver du.

2301
01:38:48,139 --> 01:38:49,967
Og det er svært.

2302
01:38:51,273 --> 01:38:53,188
Men ved du hvad?

2303
01:38:53,231 --> 01:38:56,278
Store ting virker umulige
før de rent faktisk sker.

2304
01:38:58,149 --> 01:39:01,413
Men når de endelig sker,

2305
01:39:01,457 --> 01:39:05,243
det er fordi millioner af mennesker
tog millioner af handlinger

2306
01:39:05,287 --> 01:39:07,550
at få dem til at ske.

2307
01:39:07,593 --> 01:39:10,292
Og så...

2308
01:39:10,335 --> 01:39:12,424
vi skal prøve.

2309
01:39:13,469 --> 01:39:14,905
[sukker tungt]

2310
01:39:21,129 --> 01:39:23,522
Der er for meget på spil.

2311
01:39:23,566 --> 01:39:25,611
♪ ♪

2312
01:39:32,401 --> 01:39:34,664
[film knitrende]

2313
01:39:37,232 --> 01:39:41,236
Se på de utrolige forandringer
vi har oplevet og overlevet

2314
01:39:41,279 --> 01:39:42,846
fra stenalderen,

2315
01:39:42,889 --> 01:39:46,110
og dog endnu større ændringer
skal stadig komme.

2316
01:39:46,154 --> 01:39:49,157
["Mistede det til at prøve"
af Son Lux spiller]

2317
01:40:18,403 --> 01:40:20,449
♪ ♪

2318
01:40:47,606 --> 01:40:50,174
♪ Hvad vil vi gøre nu? ♪

2319
01:40:50,218 --> 01:40:53,221
♪ Vi har mistet det til at prøve ♪

2320
01:40:53,264 --> 01:40:55,092
♪ Vi har mistet det ♪

2321
01:40:55,136 --> 01:40:56,746
♪ At prøve ♪

2322
01:40:59,575 --> 01:41:02,230
♪ Hvad vil vi gøre nu? ♪

2323
01:41:02,273 --> 01:41:05,189
♪ Vi har mistet det til at prøve ♪

2324
01:41:05,233 --> 01:41:06,973
♪ Vi har mistet det ♪

2325
01:41:07,017 --> 01:41:08,714
♪ At prøve ♪

2326
01:41:11,630 --> 01:41:14,111
♪ Hvad kan vi sige nu? ♪

2327
01:41:14,155 --> 01:41:17,201
♪ Vores mund lyver kun ♪

2328
01:41:17,245 --> 01:41:18,637
♪ Vores mund ♪

2329
01:41:18,681 --> 01:41:20,683
♪ Kun lyver ♪

2330
01:41:25,122 --> 01:41:27,690
♪ Hvad kan vi sige nu? ♪

2331
01:41:27,733 --> 01:41:30,823
♪ Vores mund lyver kun ♪

2332
01:41:30,867 --> 01:41:32,216
♪ Vores mund ♪

2333
01:41:32,260 --> 01:41:34,218
♪ Kun lyver ♪

2334
01:41:34,262 --> 01:41:36,264
♪ ♪

2335
01:42:01,071 --> 01:42:03,726
♪ Giv efter og kom ud ♪

2336
01:42:03,769 --> 01:42:06,685
♪ Vi rejser os i de døende ♪

2337
01:42:06,729 --> 01:42:08,209
♪ Vi rejser os ♪

2338
01:42:08,252 --> 01:42:10,211
♪ I den døende ♪

2339
01:42:13,127 --> 01:42:15,781
♪ Giv efter og kom ud ♪

2340
01:42:15,825 --> 01:42:18,654
♪ Vi rejser os i de døende ♪

2341
01:42:18,697 --> 01:42:20,221
♪ Vi rejser os ♪

2342
01:42:20,264 --> 01:42:22,223
♪ I den døende ♪

2343
01:42:25,051 --> 01:42:27,663
♪ Giv efter og kom ud ♪

2344
01:42:27,706 --> 01:42:30,666
♪ Vi rejser os i de døende ♪

2345
01:42:30,709 --> 01:42:32,233
♪ Vi rejser os ♪

2346
01:42:32,276 --> 01:42:34,148
♪ I den døende ♪

2347
01:42:37,107 --> 01:42:39,718
♪ Giv efter og kom ud ♪

2348
01:42:39,762 --> 01:42:42,591
♪ Vi rejser os i de døende ♪

2349
01:42:42,634 --> 01:42:43,809
♪ Vi ♪

2350
01:42:43,853 --> 01:42:45,898
♪ ♪

2351
01:43:15,580 --> 01:43:17,626
♪ ♪

2352
01:43:22,761 --> 01:43:25,286
♪ Åh, åh, åh, åh, åh

2353
01:43:25,329 --> 01:43:26,983
♪ Åh, åh, åh, åh

2354
01:43:27,026 --> 01:43:28,419
♪ Åh, åh ♪

2355
01:43:28,463 --> 01:43:31,379
♪ Åh, åh, åh, åh, åh, åh

2356
01:43:31,422 --> 01:43:32,945
♪ Åh, åh, åh, åh

2357
01:43:32,989 --> 01:43:34,382
♪ Åh, åh ♪

2358
01:43:34,425 --> 01:43:37,036
♪ Åh, åh, åh, åh, åh, åh

2359
01:43:37,080 --> 01:43:39,648
♪ Hvad vil vi gøre nu? ♪

2360
01:43:39,691 --> 01:43:42,651
♪ Vi har mistet det til at prøve ♪

2361
01:43:42,694 --> 01:43:44,566
♪ Vi har mistet det ♪

2362
01:43:44,609 --> 01:43:46,307
♪ At prøve ♪

2363
01:43:46,350 --> 01:43:49,005
♪ Åh, åh, åh, åh, åh, åh

2364
01:43:49,048 --> 01:43:51,703
♪ Hvad vil vi gøre nu? ♪

2365
01:43:51,747 --> 01:43:54,706
♪ Vi har mistet det til at prøve ♪

2366
01:43:54,750 --> 01:43:56,578
♪ Vi har mistet det ♪

2367
01:43:56,621 --> 01:43:58,406
♪ At prøve. ♪

2368
01:43:58,449 --> 01:44:00,451
♪ ♪

2369
01:44:23,126 --> 01:44:24,475
[sang slutter]